Η ραγδαία εξέλιξη της τεχνολογίας αλλάζει ριζικά την καθημερινότητά μας, όμως η χρήση της κρύβει σοβαρές παγίδες. Η παγκόσμια εταιρεία κυβερνοασφάλειας ESET εκπέμπει σήμα κινδύνου, προειδοποιώντας για τις σκοτεινές πτυχές που κρύβει η αυξανόμενη χρήση εργαλείων γενετικής τεχνητής νοημοσύνης (GenAI) σε έναν από τους πιο ευαίσθητους τομείς της ζωής μας, αυτόν της υγείας.
Τα «AI chatbots» αναδιαμορφώνουν τον τρόπο που σκεφτόμαστε και μαθαίνουμε, αλλά η εμπιστοσύνη σε αυτά για θέματα υγείας μπορεί να αποβεί προβληματική. Παρά τους κινδύνους, η ESET διευκρινίζει ότι μπορούν να φανούν χρήσιμα αποκλειστικά ως υποστηρικτικά εργαλεία για την κατανόηση ενός ιατρικού όρου ή για την προετοιμασία μιας επίσκεψης στον γιατρό.
Ωστόσο, υπάρχουν σημαντικοί κίνδυνοι όταν ένα εργαλείο τεχνητής νοημοσύνης καλείται να αναλάβει το ρόλο του γιατρού. Το πρόβλημα δεν περιορίζεται μόνο στην πιθανότητα λανθασμένων συμβουλών. Οι χρήστες ενδέχεται επίσης να μοιραστούν εξαιρετικά ευαίσθητες προσωπικές πληροφορίες με συστήματα των οποίων οι διαδικασίες προστασίας της ιδιωτικότητας, οι πρακτικές διαχείρισης δεδομένων και οι νομικές υποχρεώσεις διαφέρουν από εκείνες ενός γιατρού ή ενός νοσοκομείου. Ως αποτέλεσμα, τα δεδομένα τους μπορεί να καταλήξουν σε άγνωστους φορείς ή να εκτεθούν σε τρίτους.
Μελέτη του Πανεπιστημίου της Οξφόρδης, που δημοσιεύθηκε τον Φεβρουάριο στο «Nature Medicine», διαπίστωσε ότι οι χρήστες συχνά δε γνώριζαν ποιες πληροφορίες έπρεπε να μοιραστούν με τα μεγάλα γλωσσικά μοντέλα (LLMs). Επίσης, ότι τα LLM έδιναν πολύ διαφορετικές απαντήσεις ακόμη και όταν οι ερωτήσεις διέφεραν ελάχιστα και ότι παρείχαν συχνά συνδυασμό σωστών και λανθασμένων συμβουλών, ενώ οι χρήστες δυσκολεύονταν να διακρίνουν τη διαφορά.
Υπάρχουν όμως και κίνδυνοι που δεν σχετίζονται άμεσα με την υγεία. Ο πιο προφανής κίνδυνος είναι ότι η κοινοποίηση ευαίσθητων ιατρικών πληροφοριών σε ένα chatbot μπορεί να οδηγήσει στη χρήση αυτών των δεδομένων για την εκπαίδευση μοντέλων ή ακόμη και στη διαρροή τους σε τρίτους. Έχουν καταγραφεί περιπτώσεις κατά τις οποίες μοντέλα αποκάλυψαν δεδομένα που είχαν δώσει οι χρήστες τους.
Τέλος, η ESET προειδοποιεί πως όταν ευαίσθητα δεδομένα διακινούνται μεταξύ πολλών οργανισμών, αυξάνεται και η πιθανότητα να πέσουν θύματα κυβερνοεπιθέσεων. Τα δεδομένα υγείας είναι ιδιαίτερα πολύτιμα για τους απατεώνες επειδή διατηρούν την αξία τους για μεγάλο χρονικό διάστημα, καθώς συνήθως δεν μπορούν να αντικατασταθούν ή να επανεκδοθούν, μπορεί να περιλαμβάνουν ασφαλιστικές πληροφορίες που επιτρέπουν την υποβολή ψευδών αιτήσεων αποζημίωσης ή τη λήψη ιατρικών υπηρεσιών στο όνομα του θύματος. Επιπλέον, μπορούν να χρησιμοποιηθούν για εκβιασμό ή άλλες μορφές απάτης.
Πολλά εργαλεία τεχνητής νοημοσύνης στον χώρο της Υγείας δεν υπάγονται στους κανονισμούς προστασίας προσωπικών δεδομένων στις ΗΠΑ. Αυτό σημαίνει ότι οι πάροχοί τους ενδέχεται να μην υπόκεινται στις αυστηρές απαιτήσεις προστασίας δεδομένων που θα περίμενε κανείς από έναν οργανισμό υγείας.
Συμβουλές για ασθενείς
Η ESET συμβουλεύει τους ασθενείς να αποφεύγουν τα γενικής χρήσης chatbots και να προτιμούν εργαλεία που έχουν σχεδιαστεί ειδικά για ερωτήσεις σχετικές με την υγεία. Επίσης, είναι σημαντικό να ελέγχουν αν η υπηρεσία εξηγεί πώς διαχειρίζεται τα δεδομένα του χρήστη, αν χρησιμοποιεί τις ερωτήσεις του για την εκπαίδευση μοντέλων, αν κοινοποιεί πληροφορίες σε τρίτους και αν καλύπτεται από τη νομοθεσία προστασίας προσωπικών δεδομένων.
Για να προστατέψουν την ιδιωτικότητα τους, οι χρήστες θα πρέπει να μην ανεβάζουν ποτέ ιατρικά έγγραφα, αποτελέσματα εξετάσεων ή άλλα ευαίσθητα αρχεία, εκτός αν γνωρίζουν ακριβώς πώς θα χρησιμοποιηθούν. Επίσης, να αποφεύγουν να δίνουν ονόματα, διευθύνσεις, στοιχεία ασφάλισης, αριθμό μητρώου ασθενών ή άλλα αναγνωριστικά στοιχεία και να βεβαιώνονται ότι οι λειτουργίες εκπαίδευσης και αποθήκευσης ιστορικού συνομιλιών είναι απενεργοποιημένες. Τέλος, να μην αντιμετωπίζουν μια απάντηση του εργαλείου ως διάγνωση και να μην αγνοούν συμπτώματα επειδή μια μηχανή έδωσε μια καθησυχαστική απάντηση.
«Η τεχνητή νοημοσύνη μπορεί να συμπληρώσει την ανθρώπινη ιατρική κρίση, αλλά δεν μπορεί να την αντικαταστήσει», καταλήγει η ESET, σύμφωνα με το ΑΠΕ-ΜΠΕ.
[penci_related_posts title=”ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ:” number=”8″ style=”grid” align=”none” displayby=”cat” orderby=”random”]
