Η τεχνητή νοημοσύνη υπόσχεται να αλλάξει ριζικά την υγεία: να αναλύει τεράστιους όγκους δεδομένων, να εντοπίζει πρότυπα που διαφεύγουν από το ανθρώπινο μάτι, να υποστηρίζει τη διάγνωση και να συμβάλλει σε πιο εξατομικευμένη φροντίδα. Μαζί με τις υποσχέσεις, όμως, έρχονται και ερωτήματα που δεν είναι πλέον θεωρητικά. Πόσο αξιόπιστη είναι μια τεχνολογία που μπορεί να δώσει διαφορετική απάντηση στην ίδια ερώτηση; Ποιος ευθύνεται όταν κάνει λάθος; Και ποιος αποφασίζει ποια δεδομένα χρησιμοποιεί και με ποιους κανόνες;
Σε αυτά τα ερωτήματα απαντά, ο καθηγητής Πολιτικής της Υγείας στο London School of Economics, Ηλίας Μόσιαλος, με αφορμή την παρουσίασή του στο συνέδριο του Ελληνοαμερικανικού Επιμελητηρίου HealthWorld 2026 . Ο ίδιος δεν αντιμετωπίζει την τεχνητή νοημοσύνη ούτε ως μια τεχνολογική «μαγική λύση» ούτε ως μια απειλή που πρέπει απλώς να ανακοπεί. Επισημαίνει όμως, την ασυμμετρία γνώσης μεταξύ των ελεγκτικών μηχανισμών και των εταιρειών που καλούνται να ελέγξουν θέτει το διακύβευμα της διασφάλισης των δημοκρατικών θεσμών και επιμένει στο μεγάλο ερώτημα: τελικά ποιος ορίζει τους κανόνες;
1. Κε καθηγητά, στο Healthworld αναφέρατε ότι τριάντα άνθρωποι με την ίδια ερώτηση, θα πάρουν τριάντα διαφορετικές απαντήσεις από την AI. Στην ιατρική η συνέπεια είναι κρίσιμη. Πόσο μπορούμε να εμπιστευτούμε την τεχνητή νοημοσύνη στην υγεία;
Τα γλωσσικά μοντέλα επιλέγουν κάθε επόμενη λέξη με βάση πιθανότητες, οπότε η ίδια ερώτηση δίνει κάθε φορά διαφορετική διατύπωση. Σε ιατρική χρήση αυτό μπορεί να περιοριστεί: κλειδώνοντας την έκδοση του μοντέλου, μηδενίζοντας την τυχαιότητα και υποχρεώνοντάς το να αντλεί από συγκεκριμένες κατευθυντήριες οδηγίες.
Το ζητούμενο όμως δεν είναι οι πανομοιότυπες απαντήσεις, αλλά οι κλινικά ισοδύναμες και ασφαλείς απαντήσεις. Ούτε τριάντα γιατροί δίνουν την ίδια απάντηση στο ίδιο περιστατικό. Η διαφορά είναι ότι στον γιατρό έχουμε εκπαίδευση, πιστοποίηση και λογοδοσία, τουλάχιστον σε προηγμένα συστήματα υγείας. Ακόμη και εκεί όμως συμβαίνουν ιατρικά λάθη. Το ίδιο χρειάζεται και εδώ: επαναλαμβανόμενες δοκιμές, μέτρηση της συνέπειας ως δείκτη ποιότητας και καταγραφή κάθε απάντησης που δίνει το σύστημα, ώστε να μπορεί να ελεγχθεί εκ των υστέρων.
2. Έχετε επισημάνει τον κίνδυνο του bias. Αν ένα σύστημα εκπαιδευτεί σε δεδομένα άλλων χωρών, πόσο ασφαλές είναι για την Ελλάδα;
Η απόδοση μειώνεται όταν αλλάζει το περιβάλλον. Αλλάζουν η επίπτωση και ο επιπολασμός των νοσημάτων, η κωδικοποίηση των διαγνώσεων, τα εργαστηριακά πρότυπα, ακόμη και η διαδρομή του ασθενή μέσα στο σύστημα υγείας. Ένα εργαλείο που δουλεύει άριστα σε βρετανικά δεδομένα μπορεί να υποαποδίδει σε ελληνικό νοσοκομείο χωρίς να το αντιληφθεί κανείς, γιατί συνεχίζει να βγάζει φαινομενικά αξιόπιστα αποτελέσματα.
Δεν χρειάζεται να φτιάξουμε δικά μας μοντέλα από το μηδέν. Χρειάζεται τοπική επικύρωση πριν την κλινική χρήση, ανάλυση της απόδοσης ξεχωριστά για κάθε ομάδα ασθενών, κατά ηλικία, φύλο και νόσημα, και συνεχής παρακολούθηση μετά την εγκατάσταση. Το πρακτικό μας πρόβλημα είναι ότι η τοπική επικύρωση απαιτεί εθνικά δεδομένα χωρίς κενά και λάθη, διασυνδεδεμένα μεταξύ τους, καθώς και συμπερίληψη των δεδομένων του ιδιωτικού τομέα στο σύστημα της ΗΔΙΚΑ. Εκεί υστερούμε.
3. Λίγες εταιρείες ελέγχουν τα μοντέλα, την υπολογιστική ισχύ και την υποδομή. Πόσο ορατός είναι ο κίνδυνος εξάρτησης των δημόσιων συστημάτων υγείας; Πώς το αποτρέπει η Ευρώπη;
Η εξάρτηση δεν φαίνεται την πρώτη μέρα. Φαίνεται όταν αλλάζει η τιμολόγηση, όταν αποσύρεται μια έκδοση μοντέλου και πρέπει να επικυρωθούν τα πάντα ξανά, ή όταν μια κρίσιμη λειτουργία σταματά επειδή ένας πάροχος έχει βλάβη ή διακόπτει την υπηρεσία.
Η Ευρώπη δεν θα αποκτήσει σύντομα δικά της μοντέλα αιχμής. Η ισχύς της βρίσκεται στους κανόνες, στα δεδομένα και στις δημόσιες συμβάσεις: ρήτρες που εξασφαλίζουν ότι τα δεδομένα μπορούν να μεταφερθούν σε άλλον πάροχο και ότι η σύμβαση μπορεί να λυθεί χωρίς να καταρρεύσει η υπηρεσία, αρχιτεκτονική που επιτρέπει αλλαγή προμηθευτή, διατήρηση των δεδομένων υπό δημόσιο έλεγχο, αξιοποίηση του Ευρωπαϊκού Χώρου Δεδομένων Υγείας. Και κυρίως δημόσια τεχνική επάρκεια. Χωρίς αυτήν, όποιον κανόνα και να βάλει κανείς στις προδιαγραφές, τον ερμηνεύει και τον εφαρμόζει όπως θέλει ο προμηθευτής.
4. Ποιο είναι το όριο ανάμεσα σε μια AI που βοηθά και σε μια AI που μπορούμε να εμπιστευτούμε για κλινική απόφαση;
Το όριο είναι ζήτημα τεκμηρίωσης και αναστρεψιμότητας. Υπάρχουν τρία επίπεδα. Πρώτο, οι διοικητικές εργασίες, όπου το ρίσκο είναι χαμηλό. Δεύτερο, η υποστήριξη και η επισήμανση ευρημάτων, όπου ο γιατρός μπορεί να επαληθεύσει. Και τρίτο, η αυτόνομη κλινική απόφαση, όπου σήμερα ελάχιστα συστήματα, και σε πολύ λίγες περιπτώσεις, πλησιάζουν το απαιτούμενο επίπεδο απόδειξης.
Για το τρίτο επίπεδο δεν αρκεί η υψηλή ακρίβεια σε ένα σύνολο δεδομένων. Χρειάζονται προοπτικές πολυκεντρικές μελέτες με εκβάσεις ασθενών, και οικονομική αξιολόγηση. Έχουμε εκατοντάδες μελέτες ακρίβειας και ελάχιστες που δείχνουν αν βελτιώνεται η έκβαση και με τι κόστος. Προς το παρόν η θέση της AI είναι βοηθητική και η ευθύνη παραμένει στον κλινικό.
5. Πρόσφατα ήρθε να προστεθεί σε ανάλογες αποχωρήσεις και η παραίτηση του διευθυντή ασφαλείας Bilal Chughtai από την Google DeepMind, με προειδοποιήσεις για κινδύνους που δεν μπορούμε να προβλέψουμε. Θα έπρεπε να υπάρχει κόκκινη γραμμή στην υγεία;
Είναι δύο διαφορετικές συζητήσεις. Η μία αφορά τους μακροπρόθεσμους κινδύνους της γενικής τεχνητής νοημοσύνης. Η άλλη αφορά όσα έχουμε ήδη στην υγεία: σφάλματα, μεροληψία, αδιαφάνεια, απώλεια δεξιοτήτων και την τάση μας να εμπιστευόμαστε υπερβολικά ένα σύστημα που ακούγεται σίγουρο ενώ δεν είναι.
Ναι, χρειάζεται κόκκινη γραμμή, και θα την όριζα λειτουργικά. Καμία μη αναστρέψιμη ενέργεια χωρίς γιατρό που έχει τη δυνατότητα να την ανατρέψει, και με την προϋπόθεση ότι αυτός ο γιατρός είναι κατάλληλα εκπαιδευμένος. Καμία απόφαση κατανομής πόρων ή νοσηλείας από αλγόριθμο. Πλήρης ενημέρωση του ασθενή. Και ευθύνη σε ονομαστικά υπεύθυνο γιατρό, όχι στον προμηθευτή. Η εποπτεία πρέπει να είναι ουσιαστική, όχι διακοσμητική υπογραφή σε μια οθόνη.
6. Σε πρόσφατη μελέτη σας στο npj Digital Medicine υποστηρίζετε ότι δεν χρειαζόμαστε μόνο εξυπνότερη AI αλλά καλύτερα συστήματα υγείας. Τι εννοείτε;
Ότι το πρόβλημα αντιμετωπίζεται στη διακυβέρνηση, όχι στο εργαστήριο της εταιρείας που φτιάχνει την AI. Περιγράφουμε πέντε πεδία που λειτουργούν σαν αλυσίδα: νομικό πλαίσιο για τα δεδομένα, παραγωγή στοιχείων, ρύθμιση, ετοιμότητα του προσωπικού και εμπιστοσύνη του κοινού. Αν σπάσει ένας κρίκος, η ζημιά μεταφέρεται στους επόμενους.
Το κενό φαίνεται στα νούμερα. Σε 692 προϊόντα τεχνητής νοημοσύνης εγκεκριμένα από τον FDA, λιγότερα από το 20% ανέφεραν την ηλικιακή σύνθεση του πληθυσμού μελέτης, και μόλις 1% κοινωνικοοικονομικά στοιχεία. Εγκρίνουμε τεχνολογίες χωρίς να ξέρουμε σε ποιους δοκιμάστηκαν. Υπάρχει και δεύτερος κίνδυνος, η απώλεια δεξιοτήτων. Όταν οι γιατροί αναθέτουν τη ρουτίνα στο σύστημα, δυσκολεύονται να λειτουργήσουν όταν αυτό δεν είναι διαθέσιμο ή σφάλλει. Κι αν η πρόσβαση στην εκπαίδευση είναι άνιση, καταλήγουμε σε ιατρική δύο ταχυτήτων.
7. Πέρα από την υγεία, τόση ισχύς συγκεντρώνεται σε ελάχιστους ιδιοκτήτες μοντέλων. Πόσο απειλεί αυτό τις φιλελεύθερες δημοκρατίες;
Είναι η ουσία του προβλήματος, όχι παράπλευρη συνέπεια. Ακόμη και ένα σύστημα σχεδιασμένο με κάθε κανόνα καλής πρακτικής μπορεί να ενισχύσει υπάρχουσες ασυμμετρίες ισχύος, επειδή εντάσσεται σε δομές που ήδη λειτουργούν έτσι. Το πραγματικό ερώτημα δεν είναι οι τιμές ή ο ανταγωνισμός. Είναι ποιος ορίζει τους κανόνες.
Μιλάμε για υποδομή, και η υποδομή είναι εξουσία. Όταν ελάχιστες εταιρείες ελέγχουν τα μοντέλα, τα τσιπ, τα κέντρα δεδομένων και το cloud, αποκτούν κάτι που μέχρι τώρα ανήκε στα κράτη: τη δυνατότητα να ορίζουν ποιος έχει πρόσβαση και με ποιους όρους. Οι αποφάσεις αυτές λαμβάνονται σε διοικητικά συμβούλια, χωρίς εκλογική νομιμοποίηση και χωρίς δημόσια λογοδοσία, αλλά έχουν συνέπειες για εκατομμύρια πολίτες.
Υπάρχει και μια ασυμμετρία γνώσης. Οι ρυθμιστικές αρχές συχνά δεν έχουν ούτε τα δεδομένα ούτε το προσωπικό για να ελέγξουν τα συστήματα που καλούνται να εποπτεύσουν. Όταν ο ελεγχόμενος είναι ο μόνος που ξέρει πώς λειτουργεί το σύστημα, ο έλεγχος γίνεται τυπικός.
Η διαφάνεια είναι συχνά φαινομενική. Συστήματα που παρουσιάζονται ως ανοιχτά δεν είναι, γιατί τα δεδομένα εκπαίδευσης και η δυνατότητα ελέγχου παραμένουν κλειστά. Υπάρχει και κάτι υποτιμημένο: η συζήτηση επικεντρώνεται στο αν ο πολίτης είναι ενημερωμένος, ενώ το διακύβευμα είναι η ελεύθερη βούληση. Αυτά τα συστήματα διαμορφώνουν το πλαίσιο μέσα στο οποίο κάνουμε τις επιλογές μας, ακόμη και όταν η πληροφορία είναι πλήρης. Το πού σταματά αυτή η επιρροή δεν είναι τεχνικό ερώτημα, είναι πολιτική απόφαση, και πρέπει να τη λαμβάνουν θεσμοί με εκλογική νομιμοποίηση, όχι ολιγοπωλιακές εταιρείες.
Η απάντηση δεν είναι να σταματήσουμε την τεχνολογία. Είναι δημοκρατικοί μηχανισμοί με πραγματικές αρμοδιότητες, που μπορούν να ελέγξουν ένα σύστημα και να το αποσύρουν όταν αποτυγχάνει.
