Πίσω από τις απαντήσεις του μοντέλου AI που χρησιμοποιείτε δεν κρύβεται μια βάση δεδομένων από την οποία ανακτώνται έτοιμες απαντήσεις. Η τεχνητή νοημοσύνη δημιουργεί τις απαντήσεις της με τον τρόπο που ο ανθρώπινος εγκέφαλος ανακατασκευάζει τις αναμνήσεις του — γι’ αυτό καμιά φορά «θυμάται» και πράγματα που δεν συνέβησαν ποτέ.
Πώς μπορεί η τεχνητή νοημοσύνη να ελέγξει τον εγκέφαλο, σύμφωνα με νευροεπιστήμονα του Stanford
Η τεχνητή νοημοσύνη δεν λειτουργεί σαν βάση δεδομένων – Τι πραγματικά συμβαίνει όταν απαντά
Όταν οι περισσότεροι από εμάς φανταζόμαστε τι κάνει ένα chatbot πίσω από την οθόνη, φανταζόμαστε έναν υπολογιστή, μια βάση δεδομένων, μια λογική σειρά βημάτων. Λογικό σκεπτικό, αλλά λανθασμένο, εξηγούν οι γνωστικοί επιστήμονες Michael Hout του New Mexico State University και Arryn Robbins του Πανεπιστημίου του Richmond σε άρθρο τους στο The Conversation.
Η εξήγηση βρίσκεται στην ιστορία της τεχνητής νοημοσύνης, η οποία δεν περιορίζεται στην πληροφορική. Ορισμένες από τις θεμελιώδεις εξελίξεις που οδήγησαν στα σημερινά συστήματα ήρθαν από ερευνητές που ήθελαν να κατανοήσουν τον ανθρώπινο νου. Αυτή η επιστημονική καταγωγή βοηθά να κατανοήσουμε τον τρόπο λειτουργίας της.
Τι δείχνουν οι πρόσφατες έρευνες για τις ψευδείς απαντήσεις της τεχνητής νοημοσύνης
Οι έρευνες των τελευταίων ετών επιβεβαιώνουν ότι οι ψευδείς απαντήσεις είναι αναπόσπαστο στοιχείο του τρόπου λειτουργίας των μεγάλων γλωσσικών μοντέλων.
- Σύμφωνα με τη μελέτη του 2024 με τίτλο «Detecting hallucinations in large language models using semantic entropy», ερευνητές του Πανεπιστημίου της Οξφόρδης έδειξαν ότι οι επινοημένες απαντήσεις εντοπίζονται μετρώντας τη σημασιολογική αβεβαιότητα στις απαντήσεις του μοντέλου.
- Σύμφωνα με τη μελέτη του 2024 με τίτλο «Conversational AI Powered by Large Language Models Amplifies False Memories in Witness Interviews», όσοι «ανακρίθηκαν» από chatbot που βασίζεται σε μεγάλο γλωσσικό μοντέλο απέκτησαν περισσότερες ψευδείς μνήμες για ένα έγκλημα που είχαν δει σε βίντεο.
- Σύμφωνα με την ανασκόπηση του 2025 με τίτλο «Survey and analysis of hallucinations in large language models: attribution to prompting strategies or model behavior», οι ψευδείς απαντήσεις οφείλονται τόσο στην ίδια τη συμπεριφορά του μοντέλου όσο και στον τρόπο που διατυπώνεται η ερώτηση.
Η ψυχολογία έβαλε τα θεμέλια της σύγχρονης τεχνητής νοημοσύνης
Ο όρος «τεχνητή νοημοσύνη» εμφανίστηκε το 1956 σε ένα εργαστήριο στο Dartmouth College, όπου κυριαρχούσε η πεποίθηση ότι η νοημοσύνη μιας μηχανής μπορεί να προκύψει από την εφαρμογή κατάλληλων κανόνων. Ο ψυχολόγος Frank Rosenblatt ακολούθησε άλλο δρόμο. Το 1958 κατασκεύασε το Perceptron, ένα σύστημα που μπορούσε να μαθαίνει από παραδείγματα, αντί να βασίζεται αποκλειστικά σε προκαθορισμένους κανόνες.
Το Perceptron ήταν ένα από τα πρώτα τεχνητά νευρωνικά δίκτυα, ένας αλγόριθμος εμπνευσμένος από την αρχιτεκτονική του εγκεφάλου. Η ιδέα στηρίχτηκε στον ψυχολόγο Donald Hebb, που έδειξε ότι οι νευρωνικές συνδέσεις ενισχύονται όσο χρησιμοποιούνται.
Στη δεκαετία του 1980 οι David Rumelhart και Geoffrey Hinton, μαζί με τον Ronald Williams, συνέβαλαν καθοριστικά στην ανάπτυξη μεθόδων εκπαίδευσης πολυεπίπεδων νευρωνικών δικτύων — την ιδέα που έμεινε γνωστή ως βαθιά μάθηση. Αργότερα οι μηχανικοί πολλαπλασίασαν τις υπολογιστικές δυνατότητες, και τα δίκτυα έφτασαν να συνομιλούν με φυσική γλώσσα.
Το θεμέλιο όμως είχε μπει από τη μελέτη του νου. Η εξέλιξη της σύγχρονης τεχνητής νοημοσύνης βασίστηκε σε μεγάλο βαθμό στη μάθηση από δεδομένα — μεγάλωσε από παραδείγματα. Και ό,τι μεγαλώνει είναι πιο απρόβλεπτο από ό,τι ακολουθεί κανόνες.
Η Helen Mirren προκαλεί με τις δηλώσεις της: «Αποφεύγω τους γιατρούς και χρησιμοποιώ μόνο AI»
Γιατί επινοεί και αλλάζει απαντήσεις η τεχνητή νοημοσύνη
Τα λεγόμενα «παραληρήματα» της τεχνητής νοημοσύνης μπερδεύουν όσους τη φαντάζονται ως βάση δεδομένων. Πώς μπορεί ένα σύστημα να παράγει μια απάντηση που δεν ανταποκρίνεται στην πραγματικότητα; Η ανθρώπινη μνήμη όμως δεν ψάχνει απαντήσεις — είναι ανακατασκευαστική και γεμίζει τα κενά της με πιθανές λεπτομέρειες.
Χάρη στην πρωτοπόρα δουλειά της ψυχολόγου Elizabeth Loftus, η επιστήμη ξέρει ότι οι ψευδείς αναμνήσεις μπορούν, υπό ορισμένες συνθήκες, να δημιουργηθούν ή να επηρεαστούν από εξωτερικές πληροφορίες. Ένα σύστημα που δίνει πάντα την ίδια απάντηση περιορίζεται σε ένα πεπερασμένο σύνολο ερωτήσεων. Το τίμημα της γενίκευσης σε νέα ερωτήματα είναι η τάση για επινοήσεις.
Η σύγκριση με έναν πρωτόγονο εγκέφαλο εξηγεί γιατί η ίδια ερώτηση μπορεί να πάρει διαφορετικές απαντήσεις — όπως το παιδί που θα ζητήσει διαφορετικό δείπνο αν το ρωτήσετε δύο φορές. Ο τρόπος που διατυπώνετε την ερώτηση μπορεί να επηρεάσει την απάντηση που θα παραγάγει το σύστημα. Τα μεγάλα γλωσσικά μοντέλα λειτουργούν με πιθανότητες, όπως η ανθρώπινη μνήμη, και όχι σαν μια αριθμομηχανή.
Τίποτα δεν σημαίνει ότι η τεχνητή νοημοσύνη σκέφτεται όπως οι άνθρωποι, αν σκέφτεται καθόλου. Η μηχανική όραση μπορεί να εντοπίσει λεπτές ανωμαλίες που διαφεύγουν από τους ανθρώπινους ελέγχους, μπορεί όμως και να παρερμηνεύσει μια παραποιημένη πινακίδα κυκλοφορίας.
Γιατί έχει σημασία και το πώς τη σκέφτεστε
Η λανθασμένη νοητική εικόνα οδηγεί σε υπερβολική εμπιστοσύνη στο λάθος σημείο. Πολλοί χρησιμοποιούν το ChatGPT σαν μηχανή αναζήτησης και αντιμετωπίζουν τις απαντήσεις του σαν επιβεβαιωμένα γεγονότα, ενώ είναι γλωσσικά πειστικές απαντήσεις που ενδέχεται να περιέχουν ανακρίβειες. Έτσι παραλείπουν τον έλεγχο που θα εφάρμοζαν σε έναν άνθρωπο και ενδέχεται να πάρουν αποφάσεις, ακόμα και οικονομικές, πάνω σε επινοήσεις.
Οι θεσμοί διχάζονται ανάλογα με το δικό τους νοητικό μοντέλο. Στα πανεπιστήμια οι εκπαιδευτικοί χωρίζονται ανάμεσα σε όσους απαγορεύουν τα εργαλεία τεχνητής νοημοσύνης και σε όσους τα ενσωματώνουν στη διδασκαλία, με τις διαιρέσεις να σπέρνουν σύγχυση ανάμεσα σε διδάσκοντες και φοιτητές.
Παράλληλα, η πληροφορική ανακαλύπτει ξανά τα ερωτήματα της γνωστικής επιστήμης. Τα σημερινά συστήματα παραμένουν αδιαφανή ακόμα και για όσους τα κατασκευάζουν. Η εξέταση του τι μπαίνει και τι βγαίνει θυμίζει τον συμπεριφορισμό, τη σχολή ψυχολογίας που μελετούσε μόνο την παρατηρήσιμη συμπεριφορά. Οι ερευνητές κινούνται πλέον προς την ερμηνευσιμότητα, εξετάζοντας τους εσωτερικούς μηχανισμούς των μοντέλων.
Πώς μπορεί η τεχνητή νοημοσύνη να ελέγξει τον εγκέφαλο, σύμφωνα με νευροεπιστήμονα του Stanford
Η ανταλλαγή είναι αμφίδρομη, αφού οι γνωστικοί επιστήμονες χρησιμοποιούν τα προσβάσιμα μοντέλα για να ελέγξουν θεωρίες για τον νου. Τα δύο πεδία αναπτύχθηκαν από ένα κοινό επιστημονικό εγχείρημα, την κατανόηση της νοημοσύνης — και όσο ανταλλάσσουν ερωτήματα και εργαλεία, τόσο καλύτερα τοποθετημένη θα είναι η ανθρωπότητα να το πετύχει.
Πηγές: The Conversation, MIT Media Lab, PubMed, Frontiers in Artificial Intelligence