Η παραγωγική τεχνητή νοημοσύνη μπαίνει όλο και πιο δυναμικά στην υγεία. Μπορεί να εξηγεί δύσκολους ιατρικούς όρους, να μετατρέπει μια περίπλοκη ιατρική αναφορά σε πιο απλό κείμενο και να απαντά σε ερωτήσεις ασθενών.
Όταν, όμως, πρόκειται για τον καρκίνο, υπάρχει ένα κρίσιμο ερώτημα: έχουμε ρωτήσει τους ίδιους τους ανθρώπους που ζουν με τη νόσο τι θέλουν από αυτή την τεχνολογία;
Η απάντηση, σύμφωνα με νέα διεθνή ανασκόπηση, είναι: όχι αρκετά. Ερευνητές από το Πανεπιστήμιο Flinders της Αυστραλίας και άλλα ακαδημαϊκά κέντρα εξέτασαν τι γνωρίζουμε μέχρι σήμερα για τη στάση ασθενών με καρκίνο, επιζώντων και φροντιστών απέναντι στην παραγωγική τεχνητή νοημοσύνη στην ογκολογία.
Η ανασκόπηση, που δημοσιεύθηκε στο European Journal of Cancer, εντόπισε 2.441 αρχεία, αλλά τελικά μόλις 32 μελέτες είχαν εξετάσει τις απόψεις ανθρώπων που έχουν επηρεαστεί από τον καρκίνο.
Το μήνυμα των ερευνητών είναι απλό αλλά ουσιαστικό: αν η τεχνητή νοημοσύνη πρόκειται να χρησιμοποιείται στη φροντίδα ανθρώπων με καρκίνο, δεν αρκεί να σχεδιάζεται για τους ασθενείς. Πρέπει να σχεδιάζεται και μαζί τους.
Τι ακριβώς ρώτησαν τους ασθενείς
Οι περισσότερες από τις μελέτες που συμπεριλήφθηκαν στην ανασκόπηση επικεντρώθηκαν σε σχετικά συγκεκριμένες χρήσεις της παραγωγικής τεχνητής νοημοσύνης.
Κυρίως εξέτασαν εάν η AI μπορεί να βοηθήσει τους ανθρώπους να βρουν και να καταλάβουν καλύτερα πληροφορίες για τον καρκίνο ή εάν μπορεί να μετατρέψει δύσκολες κλινικές αναφορές σε πιο απλή και κατανοητή γλώσσα.
Με απλά λόγια, η μέχρι σήμερα έρευνα έχει ασχοληθεί περισσότερο με το αν η τεχνητή νοημοσύνη μπορεί να κάνει τις ιατρικές πληροφορίες πιο εύκολες και πιο προσιτές στον ασθενή.
Έχει ασχοληθεί πολύ λιγότερο με το τι συμβαίνει όταν η AI αρχίζει να αποκτά πιο ουσιαστικό ρόλο στη φροντίδα ενός ανθρώπου με καρκίνο.
Οι ασθενείς βλέπουν θετικά την AI – αλλά με προϋποθέσεις
Η γενική εικόνα δεν δείχνει απόρριψη της νέας τεχνολογίας. Αντίθετα, οι άνθρωποι που έχουν επηρεαστεί από τον καρκίνο έβλεπαν συνήθως θετικά την παραγωγική τεχνητή νοημοσύνη όταν τους βοηθούσε να έχουν πιο κατανοητές και πιο εύκολα προσβάσιμες πληροφορίες για την υγεία τους.
Και αυτό έχει ιδιαίτερη σημασία στην ογκολογία. Ένας άνθρωπος που μόλις έχει ακούσει μια διάγνωση καρκίνου μπορεί ξαφνικά να βρεθεί αντιμέτωπος με έναν καταιγισμό δύσκολων όρων:
- βιοδείκτες,
- ιστολογικές εξετάσεις,
- μοριακό προφίλ,
- θεραπευτικά σχήματα,
- ανεπιθύμητες ενέργειες,
- πιθανότητες ανταπόκρισης.
Ένα εργαλείο που μπορεί να μετατρέψει αυτή την πληροφορία σε απλή και κατανοητή γλώσσα έχει προφανή χρησιμότητα. Αλλά η χρησιμότητα δεν είναι το ίδιο πράγμα με την εμπιστοσύνη.
Για να την εμπιστευτούν, δεν αρκεί να δίνει μια «σωστή» απάντηση
Η ανασκόπηση δείχνει ότι η εμπιστοσύνη στην παραγωγική τεχνητή νοημοσύνη εξαρτάται από αρκετούς παράγοντες. Οι απαντήσεις πρέπει να θεωρούνται ακριβείς, αλλά ταυτόχρονα να είναι εξατομικευμένες, να ταιριάζουν στην κατάσταση του συγκεκριμένου ανθρώπου και να έχουν τον κατάλληλο συναισθηματικό τόνο.
Και εδώ ο καρκίνος κάνει τα πράγματα ακόμη πιο σύνθετα. Άλλο είναι να ζητά ένας άνθρωπος από ένα σύστημα AI να του εξηγήσει τι σημαίνει ένας ιατρικός όρος και άλλο να το ρωτά: «Τι σημαίνουν αυτά τα αποτελέσματα για μένα;»
Η δεύτερη ερώτηση δεν χρειάζεται απλώς πληροφορία. Χρειάζεται σωστό πλαίσιο, ακρίβεια, εξατομίκευση και, πολλές φορές, ανθρώπινη κρίση.
Το μεγάλο κενό: Ρωτήσαμε για τη χρησιμότητα, αλλά όχι για την ασφάλεια
Ίσως το πιο εντυπωσιακό εύρημα της ανασκόπησης βρίσκεται σε αυτά που δεν έχουν ακόμη ρωτηθεί οι ασθενείς. Η μέχρι σήμερα έρευνα επικεντρώνεται περισσότερο σε θέματα όπως η κατανόηση, η χρησιμότητα, η συνάφεια, η εμπιστοσύνη, η ακρίβεια και η σαφήνεια.
Όταν όμως οι ερευνητές κοίταξαν βαθύτερα ζητήματα που συνδέονται με την υπεύθυνη χρήση της τεχνητής νοημοσύνης, βρήκαν μεγάλα κενά.
Η λογοδοσία (ποιος δηλαδή φέρει την ευθύνη όταν κάτι πάει στραβά) είχε εξεταστεί από τη σκοπιά των ανθρώπων που έχουν επηρεαστεί από καρκίνο σε μόλις τρεις από τις 32 μελέτες.
Ακόμη πιο εντυπωσιακό: σύμφωνα με την ανασκόπηση, καμία μελέτη δεν είχε αξιολογήσει τις απόψεις τους σχετικά με την ασφάλεια, τη διαφάνεια, την ισότητα ή τη διατήρηση της ανθρώπινης αυτονομίας.
Ποιος ευθύνεται αν η AI κάνει λάθος;
Αυτά δεν είναι θεωρητικά ερωτήματα.:
- Τι γίνεται εάν ένα σύστημα παραγωγικής τεχνητής νοημοσύνης εξηγήσει λάθος ένα αποτέλεσμα εξέτασης;
- Τι συμβαίνει εάν παρουσιάσει μια απάντηση με μεγάλη αυτοπεποίθηση, ενώ στην πραγματικότητα είναι λανθασμένη;
- Πώς προστατεύονται τα ευαίσθητα ιατρικά δεδομένα που μπορεί να πληκτρολογήσει ένας ασθενής;
- Ποιος έχει την ευθύνη όταν κάτι πάει στραβά; Και, κυρίως, ποιος παίρνει την τελική απόφαση;
Οι προβληματισμοί αυτοί βρίσκονται και στο επίκεντρο των διεθνών συστάσεων. Ο Παγκόσμιος Οργανισμός Υγείας (ΠΟΥ) στις ειδικές οδηγίες του για την παραγωγική AI στην υγεία επισημαίνει ότι τα μεγάλα πολυτροπικά μοντέλα μπορούν να έχουν εφαρμογές στην κλινική φροντίδα, στην επικοινωνία με τους ασθενείς, στην ιατρική εκπαίδευση, στην έρευνα και στην ανάπτυξη φαρμάκων. Ταυτόχρονα, όμως, η χρήση τους χρειάζεται κανόνες και αποτελεσματική εποπτεία.
Ο ΠΟΥ έχει προειδοποιήσει ειδικά για τους κινδύνους των μεγάλων γλωσσικών μοντέλων στην υγεία: μπορούν να δίνουν απαντήσεις που φαίνονται πειστικές και έγκυρες, ενώ στην πραγματικότητα είναι λανθασμένες ή περιέχουν σοβαρά σφάλματα. Παράλληλα, υπάρχουν ζητήματα σχετικά με τα δεδομένα εκπαίδευσης των συστημάτων και την προστασία των ευαίσθητων πληροφοριών υγείας που εισάγουν οι ίδιοι οι χρήστες.
Η ανθρώπινη αυτονομία δεν μπορεί να χαθεί μέσα στον αλγόριθμο
Υπάρχει και μία ακόμη κόκκινη γραμμή: η τεχνητή νοημοσύνη δεν πρέπει να αφαιρεί από τον ασθενή τον έλεγχο των αποφάσεων που αφορούν την υγεία του. Στις οδηγίες του για την ηθική και τη διακυβέρνηση της τεχνητής νοημοσύνης στην υγεία, ο ΠΟΥ θέτει την προστασία της ανθρώπινης αυτονομίας ως μία από τις έξι βασικές αρχές. Αυτό σημαίνει ότι οι άνθρωποι πρέπει να διατηρούν τον έλεγχο των ιατρικών αποφάσεων, να προστατεύονται η ιδιωτικότητα και η εμπιστευτικότητα και να διασφαλίζεται η έγκυρη ενημέρωση και συναίνεση όπου απαιτείται.
Οι υπόλοιπες αρχές του ΠΟΥ αφορούν την ασφάλεια και την ανθρώπινη ευημερία, τη διαφάνεια και τη δυνατότητα κατανόησης των συστημάτων, τη λογοδοσία, την ισότητα και τη συμπερίληψη, καθώς και τη βιώσιμη και υπεύθυνη ανάπτυξη της AI.
Και είναι ακριβώς αρκετά από αυτά τα ζητήματα που, σύμφωνα με τη νέα ανασκόπηση, δεν έχουν διερευνηθεί επαρκώς από τη σκοπιά των ίδιων των ανθρώπων που ζουν με τον καρκίνο.
«Για τους ασθενείς» δεν σημαίνει «μαζί με τους ασθενείς»
Ο Bradley Menz, ερευνητής στο College of Medicine and Public Health του Πανεπιστημίου Flinders και ένας από τους συγγραφείς της εργασίας, συνοψίζει το πρόβλημα σε μία φράση: «Ο σχεδιασμός της τεχνητής νοημοσύνης για τους ασθενείς δεν είναι το ίδιο με τον σχεδιασμό της μαζί τους».
Και αυτή είναι ίσως η ουσία ολόκληρης της ανασκόπησης. Οι ασθενείς με καρκίνο, οι επιζώντες και οι φροντιστές τους δεν πρέπει να εμφανίζονται μόνο στο τέλος της διαδικασίας, όταν ένα σύστημα είναι ήδη έτοιμο και κάποιος θέλει απλώς να μάθει εάν τους αρέσει.
Οι απόψεις τους μπορούν να επηρεάσουν:
- τον σχεδιασμό των εφαρμογών,
- την ενημέρωση και εκπαίδευση των ασθενών,
- τις διαδικασίες συναίνεσης,
- τον τρόπο με τον οποίο τα εργαλεία εντάσσονται στην κλινική πράξη,
- τους κανόνες διακυβέρνησης, αλλά και
- τους μηχανισμούς παρακολούθησης και ανατροφοδότησης.
Μάλιστα, οι νεότερες συστάσεις του ΠΟΥ για τα μεγάλα μοντέλα AI στην υγεία κινούνται ακριβώς προς αυτή την κατεύθυνση: οι δυνητικοί χρήστες και οι άνθρωποι που επηρεάζονται από τα συστήματα (μεταξύ αυτών ασθενείς και επαγγελματίες υγείας) πρέπει να συμμετέχουν από τα πρώτα στάδια του σχεδιασμού και να έχουν τη δυνατότητα να εκφράζουν ανησυχίες και να επηρεάζουν την ανάπτυξή τους.
Η AI στην ογκολογία δεν μπορεί να σχεδιαστεί χωρίς τη φωνή του ασθενούς
Η παραγωγική τεχνητή νοημοσύνη μπορεί να εξελιχθεί σε ένα πολύ χρήσιμο εργαλείο για την ογκολογία. Μπορεί να κάνει μια δυσνόητη ιατρική αναφορά πιο απλή. Να βοηθήσει έναν άνθρωπο να καταλάβει καλύτερα πληροφορίες για τη νόσο και τη θεραπεία του. Να διευκολύνει την επικοινωνία. Και στο μέλλον μπορεί να αποκτήσει ακόμη περισσότερες εφαρμογές.
Όμως το γεγονός ότι από 2.441 αρχεία μόλις 32 μελέτες έφτασαν να εξετάζουν τις απόψεις των ανθρώπων που έχουν επηρεαστεί από τον καρκίνο δείχνει πόσο μεγάλο παραμένει το κενό.
Και το ζήτημα δεν είναι να ρωτήσουμε απλώς εάν η AI είναι «χρήσιμη». Πρέπει να ρωτήσουμε τους ανθρώπους που πρόκειται να τη χρησιμοποιήσουν αν τη θεωρούν ασφαλή, αν την εμπιστεύονται, τι δεδομένα είναι διατεθειμένοι να μοιραστούν, πόσο διαφανής πρέπει να είναι, ποιος πρέπει να έχει την ευθύνη όταν κάνει λάθος και σε ποιο σημείο πρέπει να σταματά η μηχανή και να αποφασίζει ο άνθρωπος.
Γιατί στην ογκολογία η τεχνητή νοημοσύνη μπορεί να γίνει ένας πολύτιμος σύμμαχος. Αλλά ο άνθρωπος που ζει με τον καρκίνο δεν μπορεί να είναι απλώς ο τελικός χρήστης της. Πρέπει να έχει φωνή στον τρόπο με τον οποίο αυτή η τεχνολογία σχεδιάζεται, ελέγχεται και τελικά μπαίνει στη ζωή του.
[penci_related_posts title=”ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ:” number=”8″ style=”grid” align=”none” displayby=”cat” orderby=”random”]
