Οδηγίες για τις εφαρμογές της Τεχνητής Νοημοσύνης (ΤΝ) στην Υγεία στην Ελλάδα, εξέδωσε η Εθνική Επιτροπή Βιοηθικής και Τεχνοηθικής (ΕΕΒΤ) σε νέα Γνώμη. Παράλληλα, χαρτογραφεί τα ηθικά ζητήματα που εγείρουν οι εφαρμογές της Τεχνητής Νοημοσύνης (ΤΝ) στην Υγεία και παρουσιάζει συγκεκριμένες προτάσεις.
Όπως αναφέρει, ένα σύστημα ΤΝ, σύμφωνα με τον ορισμό που πρότεινε ο ΟΟΣΑ το 2019 και υιοθετήθηκε από τον Κανονισμό της ΕΕ για την ΤΝ (ΑΙ Act – 2023), είναι υπολογιστικό σύστημα το οποίο, για συγκεκριμένο σύνολο στόχων και σύμφωνα με τα δεδομένα που δέχεται ως είσοδο, είναι ικανό να συνάγει πώς να παράγει αποτελέσματα (όπως προβλέψεις, συστάσεις ή αποφάσεις) τα οποία μπορούν να επηρεάσουν το περιβάλλον του (φυσικό ή εικονικό).
Σύμφωνα με την Επιτροή, στον χώρο της υγείας ο αντίκτυπος της χρήσης/εφαρμογής συστημάτων ΤΝ αναμένεται να είναι θετικός σε διάφορα επίπεδα, όπως λ.χ. την πρόγνωση και διάγνωση ασθενειών, τη βελτιωμένη παρακολούθηση ασθενών, την ανάπτυξη νέων θεραπειών, την προστασία της δημόσιας υγείας, τη βελτιστοποίηση διοικητικών διεργασιών, κτλ. Προς αυτήν την κατεύθυνση πολλά ερευνητικά κέντρα, πανεπιστήμια και νοσοκομεία της χώρας μας συμμετέχουν σε ερευνητικά προγράμματα και κλινικές μελέτες που αφορούν ή περιλαμβάνουν τη χρήση ΤΝ στην υγεία, ενώ ορισμένα ιδιωτικά ή δημόσια νοσοκομεία χρησιμοποιούν ήδη -αν και περιορισμένα συστήματα ΤΝ.
Βασικό πλεονέκτημα των εφαρμογών αυτών είτε στην κλινική πράξη είτε στη διοίκηση των υπηρεσιών υγείας είναι η εξασφάλιση ταχύτερων και καλύτερα τεκμηριωμένων αποφάσεων σε όλα τα επίπεδα, χάρη στις δυνατότητες σύνθετης, ολοκληρωμένης επεξεργασίας δεδομένων μεγάλου όγκου και ποικιλότητας, με τη βοήθεια κατάλληλα σχεδιασμένων αλγορίθμων.
Παράλληλα όμως με τις αξιόλογες -κυρίως ερευνητικές- προσπάθειες συμμετοχής της χώρας μας στον ψηφιακό μετασχηματισμό στην υγεία μέσω και της χρήσης συστημάτων ΤΝ, οι ακροάσεις φορέων που προηγήθηκαν της διαμόρφωσης της παρούσας Γνώμης ανέδειξαν αγκυλώσεις που θα πρέπει να ξεπεραστούν, προκειμένου να ενισχυθεί η ενσωμάτωση ψηφιακών και άλλων καινοτόμων λύσεων στο σύστημα υγείας. Από τις ακροάσεις διαφάνηκε κυρίως η ανάγκη ολοκλήρωσης της ψηφιοποίησης και της διασύνδεσης των πληροφοριακών συστημάτων μεταξύ και εντός των δομών υγείας και κοινωνικής φροντίδας, η διασφάλιση της αξιοπιστίας των δεδομένων υγείας, η διευκόλυνση της πρόσβασης των ερευνητών σε δεδομένα υγείας για την καλύτερη αξιοποίηση της πληροφορίας και της ενδεχόμενης ωφέλειας για τους ασθενείς, καθώς και η καθιέρωση των ηλεκτρονικών φακέλων υγείας.
Ηθικά ζητήματα
Η ανάπτυξη εφαρμογών ΤΝ στον τομέα της υγείας έχει σημασία κατά το μέτρο που μπορεί να βελτιώσει την παροχή υπηρεσιών στους πολίτες και να οδηγήσει στον εξορθολογισμό της κατανομής των διαθέσιμων πόρων στο πλαίσιο του Εθνικού Συστήματος Υγείας (ΕΣΥ), υποστηρίζοντας τη διοικητική οργάνωσή του. Υπό την έννοια αυτή, η ΤΝ εξετάζεται στο πλαίσιο του κοινωνικού δικαιώματος στην Υγεία (άρθ. 21 Συντ.).
Η Επιτροπή αναγνωρίζει ότι η ΤΝ αναπτύσσει ιδιαίτερη δυναμική στο πεδίο της βιοϊατρικής έρευνας. Από την έρευνα αυτήν αναμένονται αποτελεσματικότερα και ασφαλέστερα θεραπευτικά μέσα και διαγνωστικά εργαλεία. Ιδιαίτερα, η ανάπτυξη εφαρμογών Ιατρικής Ακριβείας, με την υποστήριξη εργαλείων της ΤΝ, θα αναβαθμίσει τη διενέργεια στοχευμένων και συνεπώς αποτελεσματικότερων ιατρικών πράξεων σε συσχέτιση με επαρκώς χαρακτηρισμένα βιοϊατρικά προφίλ/πρότυπα ομοιογενών πληθυσμιακών ομάδων ή και ατόμων.
Η ΤΝ εγείρει σοβαρά προβλήματα ηθικής φύσεως, τα οποία δεν μπορούν να παραβλεφθούν και η Πολιτεία οφείλει να αντιμετωπίσει. Το σημαντικότερο πρόβλημα αφορά στην ασφάλεια των εφαρμογών ΤΝ, λαμβάνοντας υπόψη την τεχνική πολυπλοκότητά τους. Τα δεδομένα που εισάγονται για να αξιοποιηθούν μέσω των εργαλείων ΤΝ θα πρέπει να ελέγχονται ως προς το βαθμό αξιοπιστίας, εγκυρότητας και αμεροληψίας, π.χ. μέσω της αξιολόγησης των μεθοδολογιών με τις οποίες παρήχθησαν, την ομοιογένεια των πληθυσμιακών ομάδων που μελετήθηκαν, τη διαπίστωση της καταχώρησης ή μη των αποτελεσμάτων των μελετών σε δημόσιες βάσεις δεδομένων και τη δυνατότητα επιβεβαίωσης των αποτελεσμάτων και της ίδιας πληροφορίας από άλλες ανεξάρτητες μελέτες.
Εκτός αυτού, ο σχεδιασμός και η λειτουργία των αλγορίθμων βασίζονται σε τεχνικές γνώσεις που δεν είναι εφικτό να ελέγξει ο τελικός χρήστης και διαχειριστής μιας εφαρμογής, δηλαδή ο θεράπων ιατρός, ο οποίος οφείλει να διατηρεί την τελική ευθύνη της ορθής διαχείρισης και φροντίδας του ασθενούς (ή κάθε προσώπου που ζητά τις υπηρεσίες του). Αυτό σημαίνει ότι και ο αποδέκτης των υπηρεσιών υγείας (ασθενής ή υγιής), όταν καλείται να συναινέσει σε ιατρικές πράξεις που εμπλέκουν τέτοιες εφαρμογές, είναι πιθανό να μην έχει ενημερωθεί πλήρως για τους όρους που εγγυώνται την ασφαλή χρήση τους. Ανεξάρτητα από το ότι την τελική ευθύνη κάθε ιατρικής πράξης εξακολουθεί να έχει ο θεράπων ιατρός, το κενό αυτό στην ενημέρωση θεράποντα και ασθενούς δημιουργεί εξ αντικειμένου μια συνθήκη αδιαφάνειας, η οποία δε συνάδει με την παροχή ποιοτικών υπηρεσιών υγείας.
Το δεύτερο σημαντικό ζήτημα που απαιτείται να αντιμετωπισθεί είναι η επεξεργασία δεδομένων μεγάλου όγκου και η ποικιλομορφία των ατομικών χαρακτηριστικών, σημαντικό μέρος των οποίων είναι ευαίσθητα δεδομένα ασθενών ή/και υγιών προσώπων. Η πρόσβαση σε αυτά απαιτεί διαδικασίες που πρέπει να διασφαλίζουν την αξιοποίησή τους για συγκεκριμένους σκοπούς, κυρίως όμως να αποτρέπουν την πιθανότητα διαρροών και ταυτοποίησης προσώπων (έστω κι αν τα ευαίσθητα προσωπικά δεδομένα έχουν δοθεί με εγγυήσεις ανωνυμίας). Εν προκειμένω, είναι αναγκαία η εναρμόνιση του κοινωνικού συμφέροντος για την ανάπτυξη εφαρμογών ΤΝ στην υγεία με το δικαίωμα της προστασίας των προσωπικών δεδομένων των ασθενών ή ενδιαφερόμενων υγιών προσώπων. Η Επιτροπή θεωρεί ότι είναι εφικτή η εναρμόνιση αυτή με την πρόβλεψη κατάλληλων εγγυήσεων για τα υποκείμενα των δεδομένων.
Οι εφαρμογές ΤΝ αξιολογούνται, τέλος, από την άποψη της δίκαιης κατανομής των (πεπερασμένων) πόρων που διατίθενται για την υγεία, εν όψει του υψηλού -προς το παρόν κόστους που απαιτείται για την εισαγωγή τους στην κλινική πράξη. Η προτεραιότητα των δημόσιων επενδύσεων στις εφαρμογές αυτές πρέπει να δικαιολογείται κατά περίπτωση και σε σύγκριση με άλλες ανάγκες που αντιμετωπίζει το εθνικό σύστημα Υγείας.
Προτάσεις
Κατά την Επιτροπή απώτερος στόχος πρέπει να είναι η ενσωμάτωση ψηφιακών και άλλων καινοτόμων λύσεων στο σύστημα υγείας με βάση μια ανθρωποκεντρική προσέγγιση, μόνον αν αναμένονται απτά αποτελέσματα προς όφελος των ασθενών/ληπτών υπηρεσιών υγείας. Προς αυτή την κατεύθυνση συστήνεται:
Η διαμόρφωση ενός πλαισίου διακυβέρνησης το οποίο θα διέπει την ανάπτυξη και χρήση της ΤΝ στην υγεία και θα συνοδεύει την εθνική στρατηγική για την ΤΝ. Το πλαίσιο διακυβέρνησης βασίζεται στις θεμελιώδεις ηθικές αρχές και περιλαμβάνει τους ρυθμιστικούς κανόνες, τις πολιτικές και θεσμικές πρωτοβουλίες, τις οργανωσιακές καλές πρακτικές που εγγυώνται την υπεύθυνη διαχείριση και την ηθική ανάπτυξη και αξιοποίηση της ΤΝ στην Υγεία.
Ενόψει του Κανονισμού της ΕΕ για την ΤΝ (AI Act), ο εκσυγχρονισμός και η εξειδίκευση από την Πολιτεία κατάλληλου νομικού πλαισίου που να εγγυάται το σεβασμό της ανθρώπινης αξιοπρέπειας και των ανθρώπινων δικαιωμάτων, με έμφαση στην οριοθέτηση και καταμερισμό των ευθυνών των εμπλεκόμενων μερών στην ΤΝ (ΑΙ stakeholders).
H διαμόρφωση κωδίκων ηθικής και δεοντολογικής αξιολόγησης, καθώς και η εφαρμογή εσωτερικών προτύπων αποτίμησης, συμπεριλαμβανομένης της εκτίμησης αντικτύπου, όπου αυτό απαιτείται, από τους οργανισμούς που αξιοποιούν εφαρμογές της ΤΝ στην υγεία, βάσει σχετικών αναγνωρισμένων πρωτοκόλλων.
Η γεφύρωση του ψηφιακού χάσματος (digital divide) και των ψηφιακών ανισοτήτων εν γένει, μέσω της ανάπτυξης προγραμμάτων και δράσεων για τον ψηφιακό εγγραμματισμό (digital literacy) του γενικού πληθυσμού, και ειδικότερα των χρηστών υπηρεσιών υγείας, με στοχευμένες συμπράξεις της Πολιτείας και άλλων φορέων, όπως λ.χ. ενώσεων ασθενών.
Η προώθηση της επανειδίκευσης (re-skilling) και αναβάθμισης των δεξιοτήτων (upskilling) των χρηστών των εφαρμογών ΤΝ στην υγεία (ιατρών, άλλων επαγγελματιών υγείας, διοικητικού προσωπικού, κτλ.), μέσω σχεδιασμού κατάλληλων προγραμμάτων από Πανεπιστήμια, Ερευνητικά Κέντρα, Κέντρα Δια Βίου Μάθησης, Επιστημονικές Εταιρείες και Δομές Υγείας.
Ο καθορισμός από την Πολιτεία των όρων και των προϋποθέσεων ασφαλούς και αποτελεσματικής εφαρμογής των συστημάτων ΤΝ στο ελληνικό περιβάλλον και η συνακόλουθη αναβάθμιση της λειτουργίας των αρμόδιων ελεγκτικών οργάνων. Στο πλαίσιο αυτό συστήνεται ιδίως η συγκεκριμένη αξιολόγηση κλινικών εφαρμογών της ΤΝ, δοκιμασμένων ήδη σε συστήματα υγείας άλλων χωρών, με σκοπό την υιοθέτησή τους από το ΕΣΥ.
Η ενίσχυση της ψηφιοποίησης των συστημάτων και των δεδομένων υγείας (π.χ. με τη διεύρυνση της χρήσης του ηλεκτρονικού φακέλου υγείας) και της διασυνδεσιμότητας (interconnectivity) και διαλειτουργικότητας (interoperability) των εθνικών δικτύων και σχετικών βάσεων δεδομένων υγείας.
Η διαμόρφωση πλαισίου από την Πολιτεία για τη διευκόλυνση της πρόσβασης των ερευνητών στις βάσεις δεδομένων της ΗΔΙΚΑ για έρευνα και ανάπτυξη συστημάτων ΤΝ.
Η συστηματική καλλιέργεια δημόσιου διαλόγου για τις πιθανές εφαρμογές της ΤΝ και τον αντίκτυπό τους με διεπιστημονική εμπλοκή ειδικών, ενόψει και του άρθρου 28 της Σύμβασης του Οβιέδο, και με ιδιαίτερη έμφαση στην επικαιροποίηση των πλαισίων βιοηθικής και τεχνοηθικής σκέψης.
Η συστηματική χρήση μεθόδων και εργαλείων στρατηγικής προόρασης (strategicforesight) από την Πολιτεία και τις επιστημονικές κοινότητες με σκοπό τη δυναμική κατανόηση του προαναφερθέντος αντικτύπου, την ανάλυση των τάσεων στο πεδίο της ψηφιακής υγείας, τη διαμόρφωση σεναρίων για το μέλλον της ΤΝ στο υγειονομικό τοπίο της χώρας, την καλύτερη προετοιμασία απέναντι σε ενδεχόμενες διαταράξεις του συστήματος υγείας και την προστασία των μελλοντικών γενεών. Η διαμόρφωση σεναρίων μέσω διαλόγου μεταξύ των εμπλεκόμενων μερών δύναται να ενισχύσει τις συνθήκες ψηφιακής συμπερίληψης και εμπιστοσύνης.
