Αμερικανικό ιατρικό περιοδικό προειδοποίησε κατά της χρήσης του ChatGPT για πληροφορίες υγείας, αφού ένας άνδρας ανέπτυξε μια σπάνια πάθηση μετά από μια αλληλεπίδραση με το chatbot σχετικά με την αφαίρεση του επιτραπέζιου αλατιού από τη διατροφή του.
Άρθρο στο Annals of Internal Medicine ανέφερε μια περίπτωση στην οποία ένας 60χρονος άνδρας ανέπτυξε βρωμισμό, γνωστό και ως τοξικότητα βρωμίου, αφού συμβουλεύτηκε το ChatGPT.
Το άρθρο περιέγραφε τον βρωμισμό ως ένα «γνωστό» σύνδρομο στις αρχές του 20ού αιώνα που θεωρούνταν ότι συνέβαλε σε σχεδόν μία στις 10 ψυχιατρικές εισαγωγές εκείνη την εποχή.
Ο ασθενής είπε στους γιατρούς ότι αφού διάβασε για τις αρνητικές επιπτώσεις του χλωριούχου νατρίου, ή κοινώς του επιτραπέζιου αλατιού, συμβουλεύτηκε το ChatGPT σχετικά με την αφαίρεσή του από τη διατροφή του και άρχισε να λαμβάνει βρωμιούχο νάτριο για μια περίοδο τριών μηνών. Αυτό συνέβη παρά το γεγονός ότι διάβασε ότι «το χλωρίδιο μπορεί να αντικατασταθεί με βρωμίδιο, αν και πιθανότατα για άλλους σκοπούς, όπως η καθαριότητα». Το βρωμιούχο νάτριο χρησιμοποιήθηκε ως ηρεμιστικό στις αρχές του 20ού αιώνα.
Οι συγγραφείς του άρθρου, από το Πανεπιστήμιο της Ουάσινγκτον στο Σιάτλ, δήλωσαν ότι η υπόθεση υπογράμμισε «πώς η χρήση τεχνητής νοημοσύνης μπορεί δυνητικά να συμβάλει στην ανάπτυξη αποτρέψιμων δυσμενών επιπτώσεων στην υγεία».
Πρόσθεσαν ότι επειδή δεν μπορούσαν να έχουν πρόσβαση στο αρχείο καταγραφής συνομιλιών του ασθενούς στο ChatGPT, δεν ήταν δυνατό να προσδιοριστεί η συμβουλή που είχε λάβει ο άνδρας.
Παρ’ όλα αυτά, όταν οι συγγραφείς συμβουλεύτηκαν οι ίδιοι το ChatGPT σχετικά με το με τι θα μπορούσε να αντικατασταθεί το χλωριούχο νάτριο, η απάντηση περιελάμβανε επίσης το βρωμιούχο, δεν παρείχε συγκεκριμένη προειδοποίηση για την υγεία και δεν ρώτησαν γιατί οι συγγραφείς αναζητούσαν τέτοιες πληροφορίες – «όπως υποθέτουμε ότι θα έκανε ένας επαγγελματίας υγείας», έγραψαν.
Οι συγγραφείς προειδοποίησαν ότι το ChatGPT και άλλες εφαρμογές τεχνητής νοημοσύνης θα μπορούσαν «να δημιουργήσουν επιστημονικές ανακρίβειες, να μην έχουν την ικανότητα να συζητούν κριτικά τα αποτελέσματα και τελικά να τροφοδοτούν την εξάπλωση της παραπληροφόρησης».
Η εταιρεία ανακοίνωσε την αναβάθμιση του chatbot την περασμένη εβδομάδα και ισχυρίστηκε ότι ένα από τα μεγαλύτερα δυνατά της σημεία ήταν η υγεία. Ανέφερε ότι το ChatGPT – που τώρα τροφοδοτείται από το μοντέλο GPT-5 – θα ήταν καλύτερο στην απάντηση σε ερωτήσεις που σχετίζονται με την υγεία και θα ήταν επίσης πιο προληπτικό στην «επισήμανση πιθανών ανησυχιών», όπως σοβαρές σωματικές ή ψυχικές ασθένειες.
Ωστόσο, τόνισε ότι το chatbot δεν αντικαθιστά την επαγγελματική βοήθεια. Οι οδηγίες του chatbot αναφέρουν επίσης ότι δεν «προορίζεται για χρήση στη διάγνωση ή τη θεραπεία οποιασδήποτε πάθησης υγείας».
Το άρθρο του περιοδικού, το οποίο δημοσιεύθηκε την περασμένη εβδομάδα πριν από την κυκλοφορία του GPT-5, ανέφερε ότι ο ασθενής φαινόταν να έχει χρησιμοποιήσει μια παλαιότερη έκδοση του ChatGPT.
Ενώ αναγνωρίζει ότι η Τεχνητή Νοημοσύνη θα μπορούσε να αποτελέσει γέφυρα μεταξύ των επιστημόνων και του κοινού, το άρθρο ανέφερε επίσης ότι η τεχνολογία ενέχει επίσης τον κίνδυνο προώθησης «πληροφοριών εκτός πλαισίου» και ότι ήταν πολύ απίθανο ένας επαγγελματίας υγείας να είχε προτείνει βρωμιούχο νάτριο όταν ένας ασθενής ζήτησε υποκατάστατο για το επιτραπέζιο αλάτι.
Ως αποτέλεσμα, ανέφεραν οι συγγραφείς, οι γιατροί θα πρέπει να εξετάζουν τη χρήση της Τεχνητής Νοημοσύνης όταν ελέγχουν από πού πήραν πληροφορίες οι ασθενείς τους.
Οι συγγραφείς ανέφεραν ότι ο ασθενής με βρωμισμό παρουσιάστηκε σε νοσοκομείο και ισχυρίστηκε ότι ο γείτονάς του μπορεί να τον δηλητηρίαζε. Είπε επίσης ότι είχε πολλαπλούς διατροφικούς περιορισμούς. Παρά το γεγονός ότι διψούσε, σημειώθηκε ότι ήταν παρανοϊκός για το νερό που του προσφέρθηκε.
Προσπάθησε να δραπετεύσει από το νοσοκομείο εντός 24 ωρών από την εισαγωγή του και, μετά την τομή, υποβλήθηκε σε θεραπεία για ψύχωση. Μόλις ο ασθενής σταθεροποιήθηκε, ανέφερε ότι είχε πολλά άλλα συμπτώματα που υποδήλωναν βρωμισμό, όπως ακμή στο πρόσωπο, υπερβολική δίψα και αϋπνία.
Φωτογραφία: iStock
