Οταν μπαίνει κανείς σε ένα ιατρείο υποθέτει κάτι τόσο βασικό, που δεν χρειάζεται καν να διατυπωθεί: Ο γιατρός έχει ξαναγγίξει ανθρώπινο σώμα. Εχει μελετήσει ανατομία, έχει δει όργανα και έχει μάθει τη διαφορά ανάμεσα στα είδη πόνου. Τη γνώση αυτή την έχει αναπτύξει όχι μόνο διαβάζοντας, αλλά και με χρόνια πρακτικής εμπειρίας και εκπαίδευσης. Εχει νιώσει τον πόνο και ο ίδιος. Φανταστείτε τώρα έναν γιατρό που δεν έχει έρθει ποτέ σε επαφή με ανθρώπινο σώμα. Αντ' αυτού, έχει μελετήσει εκατομμύρια αναφορές ασθενών και έχει μάθει με εκπληκτική λεπτομέρεια πώς «ακούγεται» μια τυπική διάγνωση. Οι εξηγήσεις που θα δίνει είναι πειστικές, ίσως και παρήγορες. Ο ρυθμός θα είναι σωστός, το λεξιλόγιο άπταιστο και οι διατυπώσεις καθησυχαστικά οικείες. Ωστόσο, τη στιγμή που θα μάθετε πως η γνώση του είναι φτιαγμένη από μοτίβα κειμένου, αντί επαφής με τον φυσικό κόσμο, κάτι μέσα σας θα καταρρεύσει.

Είναι η συλλογιστική ενός Μεγάλου Γλωσσικού Μοντέλου (ΜΓΜ) κάτι παρόμοιο με την ανθρώπινη κρίση, ή απλώς παράγει τη γλωσσική μορφή της συλλογιστικής; Μια ομάδα ερευνητών ασχολήθηκε με αυτό το ερώτημα, απευθυνόμενη σε 50 ανθρώπους και 6 κορυφαία ΜΓΛ με ερωτήματα και τεστ που έχουν δοκιμαστεί επί δεκαετίες από την ψυχολογία και τη νευροεπιστήμη. Οι επιστήμονες δεν περίμεναν ότι τα μηχανικά συστήματα θα «σκέφτονταν» όπως οι άνθρωποι, αλλά θεώρησαν σημαντικό να καταλάβουν πώς η «σκέψη» τους διαφέρει από αυτή του ανθρώπου, ώστε να μπορούν καλύτερα οι άνθρωποι να εκτιμήσουν πώς και πότε να χρησιμοποιούν αυτά τα εργαλεία.

Σε ένα από αυτά τα πειράματα παρουσίασαν στους συμμετέχοντες, ανθρώπους και μηχανές, πολλές πηγές πληροφοριών και τους ζήτησαν να αξιολογήσουν την αξιοπιστία τους και να το δικαιολογήσουν. Ερευνες έχουν δείξει πως όταν ένας άνθρωπος συναντά έναν αμφισβητήσιμο τίτλο είδησης, αρχικά ελέγχει τον τίτλο με αυτά που ήδη γνωρίζει για τον κόσμο: Αν ταιριάζει με τα θεμελιώδη δεδομένα της πραγματικότητας, παλιότερα γεγονότα ή προσωπική εμπειρία. Μετά αναλογίζεται την προέλευση της πληροφορίας, αν προέρχεται από μια πηγή με ιστορικό προσεκτικής δημοσιογραφίας ή «κίτρινης» δημοσιογραφίας και εντυπωσιοθηρίας. Στο τέλος αξιολογεί αν ο ισχυρισμός βγάζει νόημα στο πλαίσιο μιας ευρύτερης αλυσίδας γεγονότων, αν μπορεί πραγματικά να έχει συμβεί κάτι τέτοιο και αν ταιριάζει με το πώς εξελίσσονται συνήθως παρόμοιες καταστάσεις.

Τα ΜΓΜ δεν μπορούν να κάνουν το ίδιο. Για να το διερευνήσουν, οι ερευνητές τους έδωσαν οδηγίες να αναφέρουν τα κριτήρια που χρησιμοποιούν για να αξιολογήσουν την αξιοπιστία των ειδήσεων και να δικαιολογήσουν την τελική τους κρίση γι' αυτές. Παρατήρησαν ότι ακόμα κι όταν τα μοντέλα έφταναν σε παρόμοια συμπεράσματα με τους ανθρώπους, οι εξηγήσεις τους αντανακλούσαν πάντα μοτίβα παρμένα από τη γλώσσα (όπως το πόσο συχνά παρουσιάζεται ένας συγκεκριμένος συνδυασμός λέξεων και σε ποιο πλαίσιο) παρά αναφορές σε εξωτερικά δεδομένα, προηγούμενα γεγονότα ή εμπειρία.

Σε άλλα πειράματα συνέκριναν τη συλλογιστική ανθρώπων και ΜΓΜ πάνω σε ηθικά διλήμματα. Οι άνθρωποι αντλούσαν από τη γνώση του πώς αντιμετωπίζονται συνήθως τέτοια ζητήματα, τις κοινωνικές προσδοκίες, τις συναισθηματικές αντιδράσεις και τις πολιτιστικά διαμορφωμένες αντιλήψεις για τη βλάβη και για το δίκιο. Για παράδειγμα, όταν οι άνθρωποι αξιολογούν την ηθικότητα, συχνά ακολουθούν αιτιώδη συλλογιστική. Εξετάζουν πώς το ένα γεγονός οδηγεί στο άλλο, γιατί ο χρονισμός έχει σημασία και πώς τα πράγματα θα μπορούσαν να είχαν εξελιχθεί διαφορετικά αν κάτι άλλαζε στην πορεία.

Τα ΜΓΜ αναπαράγουν αυτήν τη μορφή συλλογιστικής αρκετά καλά. Χρησιμοποιούν εκφράσεις οι οποίες εμπεριέχουν λεξιλόγιο που σχετίζεται με τη φροντίδα, το καθήκον και τα δικαιώματα. Παρουσιάζουν αιτιώδη συλλογιστική βασισμένη σε γλωσσικά μοτίβα, συμπεριλαμβάνοντας το «τι θα γινόταν αν». Αλλά στην πραγματικότητα δεν φαντάζονται τίποτα, απλώς αναπαράγουν μοτίβα του τρόπου που μιλάνε ή γράφουν οι άνθρωποι γι' αυτές τις εναλλακτικές εξελίξεις. Το αποτέλεσμα μπορεί να μοιάζει με αιτιώδη συλλογιστική, αλλά η διεργασία πίσω απ' αυτό είναι απλώς συμπλήρωση μοτίβων, όχι κατανόηση του πώς τα γεγονότα παράγουν τελικά αποτελέσματα στον πραγματικό κόσμο.

Σε όλα τα πειράματα που έκαναν οι ερευνητές αναδυόταν ένα σταθερό μοτίβο: Τα ΜΓΜ μπορούν συχνά να δώσουν παρόμοιες απαντήσεις με τους ανθρώπους για λόγους που δεν έχουν καμία ομοιότητα με την ανθρώπινη συλλογιστική. Εκεί που ο άνθρωπος κρίνει, το μοντέλο συσχετίζει. Εκεί που ο άνθρωπος αξιολογεί, το μοντέλο προβλέπει. Εκεί που ο άνθρωπος έρχεται σε επαφή με τον κόσμο, το μοντέλο έρχεται σε επαφή με μια κατανομή λέξεων. Η αρχιτεκτονική τους τα κάνει εξαιρετικά καλά στην αναπαραγωγή μοτίβων που συναντώνται σε κείμενα, αλλά δεν τους δίνει πρόσβαση στον κόσμο στον οποίο αναφέρονται οι λέξεις αυτές.

Επειδή η ανθρώπινη κρίση εκφράζεται μέσω της γλώσσας, οι απαντήσεις των μοντέλων τελικά μοιάζουν επιφανειακά με τις απαντήσεις των ανθρώπων. Η προσομοίωση της γνώσης γίνεται πανομοιότυπη με την ίδια τη γνώση. Η γλωσσική βασιμότητα των λεγόμενων θεωρείται υποκατάστατο της αλήθειας. Αυτό συμβαίνει επειδή τα μοντέλα είναι ευφραδή, και η ευφράδεια είναι κάτι που οι άνθρωποι έχουν μάθει να εμπιστεύονται. Το πρόβλημα δεν είναι ότι τα μοντέλα συχνά κάνουν λάθη, το ίδιο συμβαίνει και με τους ανθρώπους. Το βαθύτερο πρόβλημα είναι ότι το μοντέλο δεν μπορεί να καταλάβει πότε έχει παραισθήσεις, ακριβώς επειδή δεν μπορεί να αναπαραστήσει την αλήθεια. Δεν μπορεί να σχηματίσει αντιλήψεις, να τις αναθεωρήσει ή να ελέγξει τα συμπεράσματά του στον πραγματικό κόσμο. Δεν μπορεί να διακρίνει έναν βάσιμο από έναν αβάσιμο ισχυρισμό, παρά μόνο κάνοντας αναλογίες με προηγούμενα γλωσσικά μοτίβα. Με λίγα λόγια, δεν μπορεί να έχει πραγματική κρίση.

Ωστόσο, πολλοί άνθρωποι χρησιμοποιούν αυτά τα συστήματα σε πλαίσια όπου είναι απαραίτητο να μπορεί κανείς να διακρίνει μεταξύ αληθοφάνειας και αλήθειας, όπως ο νόμος, η ιατρική και η ψυχολογία. Ενα μοντέλο μπορεί να παράξει μια παράγραφο που μοιάζει με διάγνωση, ή μια νομική ανάλυση, ή ένα ηθικό επιχείρημα. Αλλά η προσομοίωση του πράγματος δεν είναι το ίδιο το πράγμα. Ολα αυτά δεν σημαίνουν ότι τα ΜΓΜ δεν πρέπει να χρησιμοποιούνται. Είναι εξαιρετικά ισχυρά εργαλεία όταν χρησιμοποιούνται ως αυτό που είναι, δηλαδή μηχανές γλωσσικού αυτοματισμού, όχι μηχανές κατανόησης. Είναι εξαιρετικές στη σύνταξη, στη σύνοψη, στον ανασυνδυασμό και την εξερεύνηση ιδεών. Αλλά όταν τους ζητάμε να κρίνουν, τότε υποβιβάζουμε την κρίση από σχέση μεταξύ ενός νου και του κόσμου σε μια σχέση μεταξύ μιας προτροπής (prompt) και μιας κατανομής πιθανοτήτων.

Πρέπει κανείς να θυμάται ότι η ομαλότητα του λόγου δεν είναι διορατικότητα και η ευγλωττία δεν είναι απόδειξη κατανόησης. Τα ΜΓΜ πρέπει να αντιμετωπίζονται ως εξελιγμένα γλωσσικά εργαλεία που απαιτούν ανθρώπινη εποπτεία, ακριβώς επειδή δεν έχουν πρόσβαση στον τομέα από τον οποίο εξαρτάται τελικά η κρίση: Τον ίδιο τον κόσμο.

Η κυβέρνηση των ΗΠΑ υλοποίησε την απειλή της προς την «Anthropic», την εταιρεία πίσω από το κορυφαίο μοντέλο Τεχνητής Νοημοσύνης Claude, καθώς πέρασε η προθεσμία της περασμένης Παρασκευής χωρίς η εταιρεία να δεχτεί τη χρήση του Claude από το αμερικανικό κράτος εν λευκώ και χωρίς κανέναν περιορισμό. Η «Anthropic» δεν δέχτηκε να μπορεί να χρησιμοποιηθεί το μοντέλο της για μαζική παρακολούθηση των Αμερικανών (χωρίς να φέρνει αντίρρηση για άλλους λαούς) και για τη δημιουργία και λειτουργία σμηνών δρόνων (drones) και άλλων μηχανών που θα μπορούν να σκοτώνουν αυτόνομα ανθρώπους (επειδή θεωρεί πως το Claude δεν είναι ακόμη έτοιμο για τέτοια ευθύνη). Αντίθετα, συμφωνία με το υπουργείο Πολέμου των ΗΠΑ έκανε τελικά εντός προθεσμίας η ανταγωνίστρια «OpenAI» (του ChatGPT), παρότι ο επικεφαλής της, Σαμ Αλτμαν, προσπάθησε να την παρουσιάσει αλλιώς. Νωρίτερα, παρόμοια συμφωνία είχε υπογράψει και η εταιρεία του μοντέλου Grok, η xAI του Ιλον Μασκ. Τώρα η «Anthropic» αποκλείστηκε από ένα συμβόλαιο 200 εκατ. δολαρίων με το υπουργείο Πολέμου και, το κυριότερο, χαρακτηρίστηκε «κίνδυνος για την εφοδιαστική αλυσίδα», πράγμα που σημαίνει ότι απαγορεύεται σε οποιαδήποτε ιδιωτική εταιρεία που έχει πάρε - δώσε με το αμερικανικό κράτος να χρησιμοποιεί το μοντέλο Claude της «Anthropic». Πάντως η «Anthropic», ανεβάζοντας ραγδαία τα κέρδη της από χρόνο σε χρόνο, έφτασε φέτος τα 20 δισεκατομμύρια δολάρια.

Η απειλή ενάντια στην «Anthropic» προκάλεσε την αντίδραση εργαζομένων της «Google» (μοντέλο Gemini) και της «OpenAI». Περίπου 900 εργαζόμενοι της «Google» και 100 εργαζόμενοι της «OpenAI», στην πλειοψηφία τους μηχανικοί λογισμικού, έχουν υπογράψει μέχρι τώρα κείμενο που καλεί τις δύο εταιρείες να αρνηθούν τις απαιτήσεις του υπουργείου Πολέμου των ΗΠΑ για χρήση των μοντέλων τους για μαζική παρακολούθηση Αμερικανών και αυτόνομη δολοφονία ανθρώπων από μηχανές χωρίς ανθρώπινη εποπτεία. Ωστόσο ακόμα κι αυτή η έκκληση, που δεν ανησυχεί για την παρακολούθηση και τις δολοφονίες γενικά, αλλά μόνο όταν αφορούν Αμερικανούς και γίνονται χωρίς εξουσιοδότηση από άνθρωπο, δεν γίνεται με κάποια αντίληψη χειραφέτησης των εργαζομένων. Εχοντας υιοθετήσει την αστική αντίληψη ότι «όλοι είμαστε μια οικογένεια» και χωρίς ίχνος αντίληψης του ανταγωνισμού μεταξύ των μονοπωλίων, η έκκληση γίνεται προς τους «ηγέτες» των εταιρειών να αφήσουν στην άκρη τις διαφορές τους και να σταθούν μαζί απέναντι στην αμερικανική κυβέρνηση.

Στο μεταξύ ο Κένεθ Πέιν, καθηγητής Στρατηγικής στο King's College του Λονδίνου, προδημοσίευσε μια μελέτη που έκανε με τρία από τα κορυφαία μοντέλα (Claude Sonnet 4, Gemini 3 Flash και GPT-5.2), βάζοντάς τα να λειτουργήσουν στο πλαίσιο του στρατηγικού ανταγωνισμού των πυρηνικών δυνάμεων. Διαπίστωσε ότι αυθόρμητα τα μοντέλα επιχείρησαν εξαπάτηση του αντιπάλου, έδιναν την εντύπωση ότι θα ακολουθήσουν πορεία που δεν είχαν σκοπό να ακολουθήσουν, εξέταζαν τη συλλογιστική των αντιπάλων με βάση τα πιστεύω τους και προέβλεπαν τις κινήσεις τους, ενώ εμφάνιζαν πειστική αυτοσυνείδηση, εξετάζοντας τις δικές τους στρατηγικές ικανότητες πριν ενεργήσουν. Η μελέτη σημειώνει πως και για τα τρία μοντέλα δεν υπάρχει πυρηνικό ταμπού, και σε όλες τις περιπτώσεις κρίσεων που τέθηκαν σε αυτά προχώρησαν σε πυρηνική κλιμάκωση, κυρίως με τακτικά πυρηνικά όπλα, η οποία σε λίγες περιπτώσεις έφτασε σε αντιπαράθεση με στρατηγικά πυρηνικά. Κανένα μοντέλο ούτε μία φορά δεν υποχώρησε ή δεν έδειξε διάθεση για συνδιαλλαγή, ακόμα κι όταν βρέθηκε υπό μεγάλη πίεση. Οι απειλές πάντα οδηγούσαν σε μεγαλύτερη κλιμάκωση. Η αξιοπιστία του αντιπάλου επιτάχυνε αντί να αποτρέπει την κλιμάκωση. Ο Πέιν καταλήγει ότι «είναι επιτακτική ανάγκη να κατανοήσουμε περισσότερα για το πώς σκέφτονται τα ολοένα και πιο ικανά μοντέλα - ειδικά καθώς αρχίζουν να προσφέρουν υποστήριξη στις αποφάσεις των ανθρώπων στρατηγών. Χρησιμοποιούμε την Τεχνητή Νοημοσύνη σε προσομοιώσεις και για να βελτιώσουμε τη στρατηγική θεωρία και το δόγμα. Και σύντομα θα τη χρησιμοποιήσουμε και σε αποφάσεις μάχης».