Νέα μελέτη αποκαλύπτει ότι η χρήση των AI Chatbots για ιατρικές συμβουλές μπορεί να οδηγήσει σε λάθος αποφάσεις.
Τα chatbots μπαίνουν δυναμικά στην καθημερινότητα
Όλο και περισσότεροι άνθρωποι στρέφονται στα chatbots τεχνητής νοημοσύνης για ζητήματα υγείας, όμως νέα έρευνα δείχνει ότι η πρακτική αυτή δεν είναι τόσο ασφαλής όσο φαίνεται.
Τα χρησιμοποιούν πλέον για κάθε είδους ερώτημα, από απλές συνταγές μέχρι πιο σύνθετα ζητήματα όπως οι φορολογικές δηλώσεις.
Την ίδια στιγμή, αυξάνεται σημαντικά και η χρήση τους για θέματα υγείας, με πολλούς να αναζητούν απαντήσεις για συμπτώματα ή πιθανές παθήσεις πριν απευθυνθούν σε γιατρό.
Σε έρευνα στις ΗΠΑ, που δημοσιεύεται από το JMIR Publications, με 2.406 συμμετέχοντες, το 21,5% χρησιμοποιεί το ChatGPT για πληροφορίες υγείας, με τους χρήστες να είναι νεότεροι (μέσος όρος 32,8 ετών), λιγότερο μορφωμένοι και συχνότερα να στρέφονται σε επείγοντα περιστατικά αντί για σταθερό γιατρό.
Πολλοί (39,3%) το χρησιμοποιούν 2-3 φορές την εβδομάδα ή περισσότερο, κυρίως για να αποφασίσουν αν χρειάζεται ιατρική επίσκεψη (47,4%) ή να εξερευνήσουν εναλλακτικές θεραπείες (46,2%), ενώ το θεωρούν εξίσου ή πιο χρήσιμο από άλλες online πηγές (87,7%) και ακόμη και από τον γιατρό τους (81%).
Παρά την ευρεία αποδοχή, το 67,9% υποπτεύεται ανακρίβειες στις απαντήσεις και το 67,5% συμβουλεύεται τον γιατρό του, με κοινές ενέργειες να περιλαμβάνουν αίτημα διευκρινίσεων (42,9%), παραπομπής σε ειδικό (35,6%) ή αλλαγής φαρμάκων (31%). Η μελέτη υπογραμμίζει πώς το AI διαμορφώνει συμπεριφορές υγείας, αλλά τονίζει την ανάγκη καθοδήγησης από επαγγελματίες για ασφαλή χρήση, ιδίως σε ευάλωτες ομάδες.
Σύμφωνα με την Rebecca Payne, Clinical Senior Lecturer, Bangor University, αυτή η τάση μπορεί να είναι προβληματική όταν αφορά κρίσιμες ιατρικές αποφάσεις.
Ανησυχητικές διαστάσεις παίρνει η χρήση ΤΝ για την υγεία
Μια άλλη μελέτη του Nature Medicine εξέτασε κατά πόσο τα chatbots μεγάλων γλωσσικών μοντέλων μπορούν να βοηθήσουν πραγματικά τους χρήστες να διαχειριστούν κοινά προβλήματα υγείας.
Οι συμμετέχοντες έλαβαν σύντομες περιγραφές συμπτωμάτων και χωρίστηκαν τυχαία σε δύο ομάδες.
Η πρώτη ομάδα χρησιμοποίησε ένα από τρία ευρέως διαθέσιμα chatbots, ενώ η δεύτερη βασίστηκε σε παραδοσιακές πηγές πληροφόρησης, όπως θα έκανε στην καθημερινότητά της.
Στη συνέχεια, όλοι κλήθηκαν να απαντήσουν ποια πάθηση θεωρούν πιθανή και πού θα έπρεπε να αναζητήσουν βοήθεια.
Τα αποτελέσματα ήταν αποκαλυπτικά και σε αρκετές περιπτώσεις ανησυχητικά.
Οι χρήστες που βασίστηκαν στα chatbots δεν είχαν καλύτερη απόδοση από εκείνους που δεν τα χρησιμοποίησαν. Αντίθετα, συχνά έκαναν περισσότερα λάθη.
- Εντόπιζαν λιγότερο συχνά τη σωστή πάθηση
- Δεν μπορούσαν να επιλέξουν σωστά το επίπεδο φροντίδας
- Δεν βελτίωναν τη λήψη αποφάσεων τους
- Συχνά μπέρδευαν ή ξεχνούσαν κρίσιμες πληροφορίες
Με άλλα λόγια, η χρήση των chatbots δεν βοήθησε ουσιαστικά τους ανθρώπους να πάρουν πιο σωστές αποφάσεις για την υγεία τους.
NextBrain Atlas: ένας νέος άτλας εγκεφάλου ρίχνει φως στις νευροεκφυλιστικές νόσους
Όταν το AI λειτουργεί χωρίς ανθρώπους
Ενδιαφέρον παρουσιάζει το γεγονός ότι τα ίδια τα chatbots απέδωσαν πολύ καλύτερα όταν αξιολογήθηκαν χωρίς ανθρώπινη παρέμβαση.
Όταν τα σενάρια δόθηκαν απευθείας στα συστήματα, αυτά κατάφεραν να αναγνωρίσουν σωστά τις πιθανές παθήσεις στις περισσότερες περιπτώσεις και να προτείνουν κατάλληλες ενέργειες.
Αυτό δείχνει ότι το πρόβλημα δεν είναι απαραίτητα η έλλειψη γνώσης, αλλά κάτι βαθύτερο.
Το βασικό πρόβλημα είναι η επικοινωνία
Η ανάλυση των συνομιλιών αποκάλυψε ότι η δυσκολία εντοπίζεται στην αλληλεπίδραση ανθρώπου και μηχανής.
Σε πολλές περιπτώσεις, τα chatbots ανέφεραν τη σωστή διάγνωση μέσα στη συζήτηση, αλλά οι χρήστες δεν την αντιλήφθηκαν ή δεν την συγκράτησαν.
Άλλοτε, οι χρήστες έδιναν ελλιπείς πληροφορίες ή τα συστήματα παρερμήνευαν σημαντικές λεπτομέρειες.
Το αποτέλεσμα ήταν μια αλυσίδα παρεξηγήσεων που οδηγούσε σε λάθος συμπεράσματα.
Ο εγκέφαλός μας ξεπερνά ακόμα σε εξυπνάδα το ΑΙ – Ποιο είναι αυτό στο οποίο είμαστε καλύτεροι
Η ιατρική δεν είναι μόνο γνώση
Η μελέτη αναδεικνύει και κάτι ακόμη πιο ουσιαστικό: Η ιατρική πράξη δεν περιορίζεται στη σωστή απάντηση.
Όπως εξηγεί η Rebecca Payne, η καθημερινή κλινική πρακτική περιλαμβάνει πολύ περισσότερα:
- Κατανόηση της ιστορίας του ασθενούς
- Διερεύνηση αβεβαιοτήτων
- Προσαρμογή της επικοινωνίας
- Δημιουργία σχέσης εμπιστοσύνης
Το εκπαιδευτικό μοντέλο Calgary–Cambridge βασίζεται ακριβώς σε αυτές τις αρχές, δίνοντας έμφαση στην ανθρώπινη σύνδεση και την ουσιαστική επικοινωνία.
Ποιος είναι τελικά ο ρόλος της τεχνητής νοημοσύνης;
Παρά τα προβλήματα, η τεχνητή νοημοσύνη δεν αποκλείεται από την υγειονομική περίθαλψη. Αντίθετα, μπορεί να αποδειχθεί ιδιαίτερα χρήσιμη σε υποστηρικτικούς ρόλους.
Σήμερα, τα chatbots είναι πιο αποτελεσματικά σε εργασίες όπως:
- Οργάνωση και ταξινόμηση πληροφοριών
- Σύνοψη ιατρικών αρχείων
- Σύνταξη σημειώσεων και εγγράφων
Σε αυτά τα πεδία ήδη αξιοποιούνται με επιτυχία μέσα στα συστήματα υγείας.
Η τεχνητή νοημοσύνη μπορεί να εντυπωσιάζει σε εξετάσεις και θεωρητικά σενάρια, όμως η πραγματική ιατρική είναι πολύ πιο σύνθετη.
Η σωστή διάγνωση και καθοδήγηση απαιτούν κρίση, εμπειρία και ενσυναίσθηση, στοιχεία που προς το παρόν παραμένουν ανθρώπινα.
Μπορεί το ρομπότ του Elon Musk να αντικαταστήσει τους χειρουργούς; Νευροχειρουργός απαντά
Για αυτό, τουλάχιστον σήμερα, τα chatbots δεν μπορούν να αποτελέσουν την «πρώτη γραμμή» στην υγειονομική φροντίδα.