Ένας αλγόριθμος τεχνητής νοημοσύνης μπορεί να βοηθά τους γιατρούς να αναγνωρίζουν σοβαρές παθήσεις ή να αναλύουν ιατρικές εξετάσεις. Τι συμβαίνει, όμως, όταν οι συνθήκες αλλάζουν και το σύστημα δεν είναι πλέον τόσο αξιόπιστο όσο την ημέρα που εγκρίθηκε; Πώς εντοπίζεται το πρόβλημα και ποιος αποφασίζει αν μια νέα έκδοση είναι αρκετά ασφαλής για να χρησιμοποιηθεί σε ασθενείς;
Πρόκειται για ένα από τα σημαντικότερα ζητήματα που ανακύπτουν καθώς η τεχνητή νοημοσύνη αποκτά μεγαλύτερο ρόλο στην Υγεία. Οι αλγόριθμοι εκπαιδεύονται με συγκεκριμένα δεδομένα, αλλά τα νοσοκομεία δεν λειτουργούν σε σταθερές συνθήκες: ο εξοπλισμός ανανεώνεται, οι διαγνωστικές πρακτικές εξελίσσονται και τα χαρακτηριστικά των ασθενών μεταβάλλονται.
Μια νέα επιστημονική μελέτη επιχειρεί να δώσει πρακτική απάντηση σε αυτή την πρόκληση. Ερευνητές του Karolinska Institutet στη Σουηδία ανέπτυξαν το AEGIS, ένα πλαίσιο που βοηθά στον έλεγχο των αλλαγών και στην παρακολούθηση συστημάτων ιατρικής τεχνητής νοημοσύνης μετά τη διάθεσή τους στην αγορά.
Η μελέτη δημοσιεύθηκε στις 13 Οκτωβρίου 2026 στο επιστημονικό περιοδικό npj Digital Medicine και εξετάζει πώς μπορούν να εφαρμόζονται προκαθορισμένοι κανόνες, ώστε οι ενημερώσεις των αλγορίθμων να μην πραγματοποιούνται χωρίς κατάλληλη αξιολόγηση.
Γιατί ένας αλγόριθμος μπορεί να χάσει την ακρίβειά του
Η απόδοση ενός συστήματος τεχνητής νοημοσύνης εξαρτάται από τα δεδομένα με τα οποία εκπαιδεύτηκε και από τις συνθήκες στις οποίες χρησιμοποιείται.
Για παράδειγμα, ένα μοντέλο που αναλύει μαγνητικές τομογραφίες μπορεί να χρειαστεί να επεξεργαστεί εικόνες από διαφορετικό μηχάνημα ή με νέο πρωτόκολλο απεικόνισης. Αντίστοιχα, ένα σύστημα που αξιολογεί την κατάσταση ασθενών σε μονάδα εντατικής θεραπείας μπορεί να χρησιμοποιηθεί σε πληθυσμό με διαφορετικά χαρακτηριστικά από εκείνα των ανθρώπων που περιλαμβάνονταν στα αρχικά δεδομένα εκπαίδευσής του.
Αυτές οι μεταβολές, που στην επιστήμη των δεδομένων περιγράφονται συχνά ως data drift, δεν σημαίνουν απαραίτητα ότι το σύστημα κάνει λάθη. Μπορούν, όμως, να αποτελούν προειδοποίηση ότι η απόδοσή του χρειάζεται επανεξέταση.
Στην Ιατρική, μια τέτοια μεταβολή μπορεί να έχει σοβαρές συνέπειες, εάν επηρεάσει την αξιολόγηση μιας εξέτασης ή την εκτίμηση του κινδύνου που αντιμετωπίζει ένας ασθενής.
Γιατί η ιατρική τεχνητή νοημοσύνη δεν ενημερώνεται αυτόματα
Σε αντίθεση με πολλές εφαρμογές που χρησιμοποιούμε καθημερινά, τα περισσότερα ιατροτεχνολογικά προϊόντα που βασίζονται στην τεχνητή νοημοσύνη δεν συνεχίζουν να μαθαίνουν αυτόνομα μετά την έγκρισή τους.
«Τα περισσότερα ιατροτεχνολογικά προϊόντα που βασίζονται στην ΤΝ είναι “κλειδωμένα” μετά την έγκρισή τους και δεν μαθαίνουν από νέα δεδομένα. Κάθε βελτίωση απαιτεί επανεκπαίδευση και επικύρωση (validation)», εξηγεί ο Farhad Abtahi, επικεφαλής της κεντρικής μονάδας SMAILE στο Τμήμα Κλινικής Επιστήμης, Παρέμβασης και Τεχνολογίας του Karolinska Institutet και κύριος υπεύθυνος επικοινωνίας της μελέτης.
Ο λόγος είναι ότι ακόμη και μια αλλαγή που αποσκοπεί στη βελτίωση της ακρίβειας μπορεί να επηρεάσει άλλα χαρακτηριστικά του συστήματος. Επομένως, η νέα έκδοση πρέπει να αξιολογηθεί πριν χρησιμοποιηθεί στην κλινική πράξη.
Το ζητούμενο δεν είναι να σταματήσει η εξέλιξη της τεχνολογίας, αλλά να διασφαλιστεί ότι κάθε αλλαγή πραγματοποιείται με ελεγχόμενο τρόπο.
Τι αλλάζει με το AEGIS
Το AEGIS αναπτύχθηκε για να υποστηρίζει δύο βασικές αποφάσεις: αν μια νέα έκδοση ενός μοντέλου μπορεί να τεθεί σε χρήση και αν το μοντέλο που χρησιμοποιείται ήδη χρειάζεται πιο προσεκτική εξέταση.
Για τον σκοπό αυτό, συνδυάζει διαδικασίες ενσωμάτωσης νέων δεδομένων και επανεκπαίδευσης, παρακολούθησης της απόδοσης και εφαρμογής προκαθορισμένων κανόνων.
Σύμφωνα με την πρωτότυπη επιστημονική δημοσίευση, το πλαίσιο προβλέπει τέσσερις πιθανές κατηγορίες αποφάσεων: έγκριση μιας νέας έκδοσης, έγκριση υπό όρους, παραπομπή για κλινική επανεξέταση ή απόρριψη.
Παράλληλα, διαθέτει ανεξάρτητο μηχανισμό συναγερμού, ο οποίος μπορεί να ενεργοποιηθεί όταν εντοπίζονται ενδείξεις ότι το σύστημα που βρίσκεται ήδη σε χρήση χρειάζεται έλεγχο.
Η προσέγγιση αυτή επιτρέπει να εξετάζονται ταυτόχρονα δύο διαφορετικοί κίνδυνοι: να εγκατασταθεί μια νέα έκδοση που δεν πληροί τις απαιτήσεις ή να συνεχίσει να χρησιμοποιείται ένα παλαιότερο μοντέλο του οποίου η αξιοπιστία έχει τεθεί υπό αμφισβήτηση.
Το AEGIS, πάντως, δεν αποτελεί αυτόνομη αρχή έγκρισης. Είναι ένα εργαλείο υποστήριξης αποφάσεων, οι οποίες εξακολουθούν να υπόκεινται στις αρμοδιότητες των κατασκευαστών και στις ισχύουσες κανονιστικές διαδικασίες.
Τι προβλέπουν οι ΗΠΑ και η Ευρωπαϊκή Ένωση
Η ανάγκη να ελέγχονται οι αλλαγές στα συστήματα ιατρικής τεχνητής νοημοσύνης έχει ήδη αναγνωριστεί από τις ρυθμιστικές αρχές.
Στις Ηνωμένες Πολιτείες, ο FDA προβλέπει τη δυνατότητα χρήσης ενός προκαθορισμένου σχεδίου ελέγχου αλλαγών, γνωστού ως Predetermined Change Control Plan (PCCP).
Σύμφωνα με τις επίσημες οδηγίες του FDA, οι κατασκευαστές μπορούν να περιγράφουν εκ των προτέρων συγκεκριμένες τροποποιήσεις ενός ιατροτεχνολογικού προϊόντος, καθώς και τον τρόπο με τον οποίο θα ελέγχονται και θα εφαρμόζονται. Εφόσον το σχέδιο εγκριθεί, οι προβλεπόμενες αλλαγές μπορούν να πραγματοποιούνται σύμφωνα με τους εγκεκριμένους όρους, χωρίς να απαιτείται νέα υποβολή για καθεμία από αυτές.
Στην Ευρωπαϊκή Ένωση, ο κανονισμός για τα ιατροτεχνολογικά προϊόντα προβλέπει υποχρεώσεις παρακολούθησης μετά τη διάθεσή τους στην αγορά. Παράλληλα, το άρθρο 72 του ευρωπαϊκού κανονισμού για την τεχνητή νοημοσύνη (AI Act) θεσπίζει απαιτήσεις παρακολούθησης για τα συστήματα ΤΝ υψηλού κινδύνου, σύμφωνα με το εφαρμοστέο κανονιστικό πλαίσιο και τις μεταβατικές προθεσμίες του.
Το AEGIS επιχειρεί να καλύψει ένα πρακτικό κενό: να προσφέρει μια οργανωμένη διαδικασία αξιολόγησης των αλλαγών, η οποία θα μπορεί να υποστηρίζει την εφαρμογή των κανονιστικών απαιτήσεων.
Ευρώπη: Το 74% των χωρών χρησιμοποιεί ΤΝ στη διάγνωση
Η ανάγκη για αποτελεσματικό έλεγχο γίνεται πιο επιτακτική όσο επεκτείνεται η χρήση της τεχνητής νοημοσύνης στα ευρωπαϊκά συστήματα υγείας.
Σύμφωνα με έκθεση του Παγκόσμιου Οργανισμού Υγείας που δημοσιεύθηκε τον Απρίλιο του 2026, το 74% των κρατών-μελών της Ευρωπαϊκής Ένωσης ανέφερε ότι χρησιμοποιεί τεχνητή νοημοσύνη για διαγνωστικούς σκοπούς, μεταξύ άλλων στην ιατρική απεικόνιση, στην ανίχνευση ασθενειών και στην υποστήριξη κλινικών αποφάσεων.
Η ίδια έκθεση κατα- ότι το 63% των χωρών χρησιμοποιεί εφαρμογές συνομιλίας (chatbots) για την επικοινωνία και την υποστήριξη των ασθενών, ενώ το 81% εμπλέκει ήδη ενδιαφερόμενους φορείς στη διαμόρφωση της διακυβέρνησης της ΤΝ στην Υγεία.
Τα ευρήματα βασίζονται σε δεδομένα που συγκεντρώθηκαν από τον Ιούνιο του 2024 έως τον Μάρτιο του 2025 και αποτυπώνουν την πρόοδο, αλλά και τις προκλήσεις, των 27 κρατών-μελών.
Η εικόνα αυτή δείχνει ότι η τεχνητή νοημοσύνη δεν αποτελεί πλέον μόνο αντικείμενο πειραματικής έρευνας. Έχει αρχίσει να χρησιμοποιείται σε πραγματικές υπηρεσίες υγείας, γεγονός που καθιστά αναγκαία τη συστηματική αξιολόγησή της.
Τα 386 ευρωπαϊκά ιατροτεχνολογικά λογισμικά και το πρόβλημα της διαφάνειας
Ένα ακόμη σημαντικό στοιχείο προκύπτει από επιστημονική μελέτη που δημοσιεύθηκε το 2026 στο International Journal of Medical Informatics.
Οι ερευνητές εξέτασαν 1.546 καταχωρίσεις ιατροτεχνολογικού λογισμικού στην ευρωπαϊκή βάση EUDAMED, χρησιμοποιώντας στοιχεία διαθέσιμα έως τις 31 Δεκεμβρίου 2025.
Από αυτές, 386 προϊόντα, δηλαδή το 25%, διέθεταν τεκμηριωμένη λειτουργικότητα τεχνητής νοημοσύνης. Ωστόσο, μόνο σε 28 περιπτώσεις η χρήση ΤΝ μπορούσε να διαπιστωθεί από τις πληροφορίες της ίδιας της βάσης. Για τα υπόλοιπα 358 προϊόντα χρειάστηκε αναζήτηση σε πρόσθετες δημόσιες πηγές.
Οι αριθμοί δεν αποτελούν συνολική απογραφή των ιατρικών συστημάτων ΤΝ που κυκλοφορούν στην Ευρώπη. Αναδεικνύουν, όμως, ένα ουσιαστικό πρόβλημα: η παρουσία τεχνητής νοημοσύνης σε ένα ιατροτεχνολογικό προϊόν δεν είναι πάντα εύκολο να εντοπιστεί μέσα από τα διαθέσιμα δημόσια στοιχεία.
Αυτό έχει σημασία και για την παρακολούθηση των συστημάτων μετά τη διάθεσή τους στην αγορά, καθώς η διαφάνεια ως προς τα χαρακτηριστικά και τις αλλαγές τους αποτελεί βασική προϋπόθεση για αποτελεσματική εποπτεία.
Ελλάδα: Το 94% ζητά αυστηρό έλεγχο της τεχνητής νοημοσύνης
Στην Ελλάδα, η ψηφιακή υγεία αναπτύσσεται, με την πρόσβαση στον ηλεκτρονικό φάκελο υγείας και τις ψηφιακές υπηρεσίες προς τους πολίτες να αποτελούν σημαντικά πεδία προόδου.
Ωστόσο, δεν προκύπτει από τα διαθέσιμα δημόσια στοιχεία μια ενιαία και πλήρης καταγραφή του αριθμού των συστημάτων ιατρικής τεχνητής νοημοσύνης που χρησιμοποιούνται στα ελληνικά νοσοκομεία, ούτε του τρόπου με τον οποίο παρακολουθείται η απόδοσή τους μετά την εγκατάσταση.
Την ίδια στιγμή, οι Έλληνες εμφανίζονται ιδιαίτερα ευαισθητοποιημένοι απέναντι στους κινδύνους της τεχνολογίας.
Σύμφωνα με την έκθεση της Ευρωπαϊκής Επιτροπής για την Ψηφιακή Δεκαετία της Ελλάδας το 2026, το 94% των Ελλήνων που συμμετείχαν στη σχετική έρευνα συμφωνεί ότι η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να ρυθμίζεται προσεκτικά για λόγους ασφάλειας, ακόμη κι αν αυτό συνεπάγεται περιορισμούς για τους δημιουργούς της.
Το ποσοστό αφορά την τεχνητή νοημοσύνη γενικά και όχι αποκλειστικά τις ιατρικές εφαρμογές της. Παρ’ όλα αυτά, αποτυπώνει πόσο σημαντικό θεωρούν οι πολίτες να υπάρχουν σαφείς κανόνες και εγγυήσεις.
Πώς δοκιμάστηκε το AEGIS σε σήψη και όγκους εγκεφάλου
Για να εξετάσουν τη λειτουργία του νέου πλαισίου, οι επιστήμονες χρησιμοποίησαν δύο διαφορετικές εφαρμογές.
Η πρώτη αφορούσε ένα μοντέλο που εντοπίζει περιστατικά σήψης σε ιστορικά δεδομένα ασθενών από μονάδες εντατικής θεραπείας. Η σήψη είναι μια δυνητικά απειλητική για τη ζωή κατάσταση, κατά την οποία η αντίδραση του οργανισμού σε μια λοίμωξη προκαλεί δυσλειτουργία οργάνων.
Η δεύτερη εφαρμογή αφορούσε την οριοθέτηση όγκων εγκεφάλου σε μαγνητικές τομογραφίες, μια διαδικασία στην οποία η τεχνητή νοημοσύνη μπορεί να υποστηρίξει την ανάλυση σύνθετων ιατρικών εικόνων.
Οι ερευνητές κατάφεραν να δοκιμάσουν όλες τις κατηγορίες αποφάσεων του AEGIS, συμπεριλαμβανομένης της περίπτωσης κατά την οποία μια νέα έκδοση απορρίπτεται, ενώ παράλληλα ενεργοποιείται συναγερμός για το σύστημα που ήδη χρησιμοποιείται.
Σε δοκιμή με πραγματικά δεδομένα από διαφορετικές εγκαταστάσεις, η ικανότητα εντοπισμού μεταβολών στα δεδομένα βελτιώθηκε, με τον σχετικό δείκτη ROC-AUC να αυξάνεται από 0,82 σε 1,00. Στο συγκεκριμένο πειραματικό πλαίσιο, ο μηχανισμός ενεργοποιούσε προειδοποιήσεις σε παρτίδες περίπου 500 ασθενών, χωρίς ψευδείς συναγερμούς.
Τα αποτελέσματα αυτά δείχνουν ότι η προτεινόμενη διαδικασία μπορεί να λειτουργήσει τεχνικά, όχι όμως ότι τα συγκεκριμένα μοντέλα είναι αποδεδειγμένα ασφαλή ή αποτελεσματικά στην κλινική πράξη.
«Οι εφαρμογές αυτές εξετάζουν τους κανόνες λήψης αποφάσεων, αλλά δεν δείχνουν από μόνες τους πόσο ασφαλές ή αποτελεσματικό είναι ένα μοντέλο ΤΝ στον τομέα της υγείας. Κάθε κλινική εφαρμογή απαιτεί τη δική της επικύρωση και ρυθμιστική αξιολόγηση», επισημαίνει ο Abtahi στην επίσημη ανακοίνωση του Karolinska Institutet.
Τι δεν μπορεί ακόμη να εντοπίσει το σύστημα
Παρά τα ενθαρρυντικά αποτελέσματα, το AEGIS βρίσκεται ακόμη σε στάδιο απόδειξης της δυνατότητας εφαρμογής του (proof of concept).
Στην παρούσα μορφή του εντοπίζει αλλαγές στα χαρακτηριστικά των δεδομένων που εισέρχονται σε ένα μοντέλο. Δεν μπορεί, όμως, ακόμη να ανιχνεύει άμεσα εάν έχει αλλάξει η σχέση ανάμεσα στα δεδομένα αυτά και στις πραγματικές εκβάσεις που επιχειρεί να προβλέψει.
Η δεύτερη αυτή μεταβολή, γνωστή ως concept drift, μπορεί να επηρεάσει την ακρίβεια ενός αλγορίθμου ακόμη κι όταν τα εισερχόμενα δεδομένα δεν εμφανίζουν προφανείς διαφορές.
Γι’ αυτό και η παρακολούθηση των δεδομένων, όσο χρήσιμη κι αν είναι, δεν αρκεί από μόνη της για να εγγυηθεί την ασφάλεια ενός ιατρικού συστήματος τεχνητής νοημοσύνης.
Το επόμενο βήμα των ερευνητών είναι η δοκιμή του AEGIS σε πραγματικές συνθήκες, σε συνεργασία με κλινικούς εταίρους και αρμόδιες αρχές.
Η σημασία της προσπάθειας ξεπερνά το συγκεκριμένο ερευνητικό πρόγραμμα. Καθώς η τεχνητή νοημοσύνη ενσωματώνεται ολοένα περισσότερο στη φροντίδα των ασθενών, η αξιοπιστία της δεν θα κρίνεται μόνο από το πόσο καλά λειτουργεί την πρώτη ημέρα, αλλά και από το πόσο αποτελεσματικά ελέγχεται κάθε αλλαγή της στη συνέχεια.
[penci_related_posts title=”ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ:” number=”8″ style=”grid” align=”none” displayby=”cat” orderby=”random”]
