Όλο και περισσότεροι άνθρωποι ανοίγουν ένα chatbot πριν κλείσουν ραντεβού με γιατρό. Περιγράφουν συμπτώματα, ανεβάζουν φωτογραφίες δερματικών βλαβών, ζητούν ερμηνεία εξετάσεων αίματος και ρωτούν ποια αγωγή να ακολουθήσουν. Η ευκολία είναι πραγματική και τα εργαλεία ολοένα πιο πειστικά. Ακριβώς εδώ όμως κρύβεται ο κίνδυνος, γιατί η αίσθηση βεβαιότητας που μεταδίδει ένα μοντέλο δεν ταυτίζεται με την ιατρική ορθότητα.
Η ψευδαίσθηση της αυθεντίας
Τα γλωσσικά μοντέλα παράγουν απαντήσεις που ακούγονται σίγουρες, δομημένες και επιστημονικές, ανεξάρτητα από το αν είναι σωστές. Αυτή η ρευστότητα του λόγου δημιουργεί μια ψευδαίσθηση αυθεντίας. Ο χρήστης τείνει να εμπιστευτεί έναν καθαρά διατυπωμένο ισχυρισμό περισσότερο από όσο του αξίζει. Σε άλλα θέματα ίσως ένα λάθος να κοστίζει λίγο. Στην υγεία ένα λάθος μπορεί να σημαίνει μέχρι και καθυστερημένη διάγνωση καρκίνου ή λανθασμένη δοσολογία φαρμάκου.
Παραισθήσεις και επινοημένες πληροφορίες
Ένα τεχνικό χαρακτηριστικό αυτών των γλωσσικών μοντέλων είναι ότι ορισμένες φορές επινοούν πληροφορίες με απόλυτη πειστικότητα. Μπορεί να αναφέρουν ανύπαρκτες μελέτες, να αποδώσουν λάθος παρενέργειες σε ένα φάρμακο ή να συστήσουν αλληλεπιδράσεις ουσιών που δεν ισχύουν. Όταν κάποιος δεν έχει ιατρικό υπόβαθρο, δεν διαθέτει τρόπο να ξεχωρίσει την έγκυρη πληροφορία από την επινοημένη. Η απάντηση φαίνεται ίδια και στις δύο περιπτώσεις.
Έλλειψη κλινικής εικόνας
Ένας γιατρός δεν στηρίζεται μόνο στα λόγια του ασθενούς. Παρατηρεί, ψηλαφεί, ακούει την αναπνοή, αξιολογεί το ιστορικό και διασταυρώνει εξετάσεις. Ένα chatbot βλέπει μόνο όσα του γράφεις. Δύο άνθρωποι με το ίδιο σύμπτωμα, για παράδειγμα πόνο στο στήθος, μπορεί να έχουν τελείως διαφορετική αιτία, από απλό μυϊκό σπασμό έως απειλητική καρδιακή πάθηση. Χωρίς πλήρη κλινική εικόνα, κάθε πρόταση παραμένει εικασία πάνω σε ελλιπή δεδομένα.
Ευαίσθητα δεδομένα και απώλεια ιδιωτικότητας
Όταν περιγράφεις την κατάσταση της υγείας σου σε μια διαδικτυακή πλατφόρμα, μοιράζεσαι από τα πιο ευαίσθητα δεδομένα που υπάρχουν. Δεν είναι πάντα ξεκάθαρο πού αποθηκεύονται αυτά, ποιος τα επεξεργάζεται και αν χρησιμοποιούνται για εκπαίδευση μελλοντικών μοντέλων. Σε πολλά εργαλεία τα δεδομένα υγείας ταξινομούνται ως υψηλής ευαισθησίας και θα έπρεπε να μένουν σε αυστηρά προστατευμένα περιβάλλοντα. Η αμέριμνη καταχώρηση συμπτωμάτων, διαγνώσεων ή γενετικών πληροφοριών σε μια κοινή εφαρμογή ενέχει πραγματικό κίνδυνο διαρροής.
Η καθυστέρηση που κοστίζει
Ίσως ο πιο υποτιμημένος κίνδυνος είναι ψυχολογικός. Μια καθησυχαστική απάντηση από ένα chatbot μπορεί να δώσει σε κάποιον την αίσθηση ότι όλα είναι εντάξει και να αναβάλει την επίσκεψη στον ειδικό. Αντίστροφα, μια τρομακτική απάντηση μπορεί να οδηγήσει σε πανικό, σε αχρείαστες εξετάσεις ή σε θεραπεία με συμπληρώματα και φάρμακα χωρίς συνταγή. Και στις δύο περιπτώσεις ο άνθρωπος απομακρύνεται από τη σωστή φροντίδα αντί να την πλησιάζει.
Μεροληψία και κενά στα δεδομένα
Τα μοντέλα μαθαίνουν από δεδομένα που δεν εκπροσωπούν εξίσου όλους τους πληθυσμούς. Συμπτώματα που εμφανίζονται διαφορετικά ανάλογα με το φύλο, την ηλικία ή την εθνική καταγωγή ενδέχεται να υποεκτιμηθούν. Σπάνιες παθήσεις, που είναι ακριβώς οι περιπτώσεις όπου χρειάζεται μεγαλύτερη προσοχή, συχνά απουσιάζουν από τα δεδομένα εκπαίδευσης. Έτσι το εργαλείο αποδίδει καλά στα συνηθισμένα και αποτυγχάνει εκεί όπου το ρίσκο είναι μεγαλύτερο.
Πώς να χρησιμοποιείς αυτά τα εργαλεία με ασφάλεια
Η τεχνητή νοημοσύνη δεν είναι εχθρός της υγείας. Αξιοποιημένη σωστά λειτουργεί ως εργαλείο ενημέρωσης, όχι ως υποκατάστατο του γιατρού. Μπορείς να τη χρησιμοποιήσεις για να κατανοήσεις έναν ιατρικό όρο, να προετοιμάσεις ερωτήσεις πριν από ένα ραντεβού ή να αποκτήσεις μια γενική εικόνα ενός θέματος.
Κράτησε λίγους πρακτικούς κανόνες. Μην βασίζεις ποτέ μια διάγνωση ή την έναρξη και διακοπή αγωγής αποκλειστικά σε ένα chatbot. Διασταύρωνε ό,τι διαβάζεις με αξιόπιστες πηγές και κυρίως με επαγγελματίες υγείας. Πρόσεχε πόσα προσωπικά δεδομένα μοιράζεσαι. Σε κάθε επείγον σύμπτωμα, όπως έντονος θωρακικός πόνος, δυσκολία στην αναπνοή ή απότομη νευρολογική εικόνα, απευθύνσου αμέσως σε γιατρό ή στις υπηρεσίες έκτακτης ανάγκης χωρίς ενδιάμεσο στάδιο αναζήτησης στο διαδίκτυο.
Η ουσία είναι απλή. Η τεχνητή νοημοσύνη μπορεί να σε βοηθήσει να ρωτήσεις καλύτερα, αλλά η απάντηση για το σώμα σου χρειάζεται έναν άνθρωπο που το εξετάζει και φέρει την ευθύνη της φροντίδας και της θεραπείας.
Η Μάρθα Γιαννακούδη είναι επικεφαλής της γερμανικής εταιρείας Synnous
