Η Τεχνητή Νοημοσύνη μπαίνει στα νοσοκομεία με την υπόσχεση της επανάστασης: ταχύτερες διαγνώσεις, ακριβέστερες θεραπείες, λιγότερη γραφειοκρατία, καλύτερη φροντίδα. Κυβερνήσεις, εταιρείες τεχνολογίας και συστήματα υγείας μιλούν για μια νέα εποχή όπου οι αλγόριθμοι θα «βλέπουν» εκεί όπου ο άνθρωπος καθυστερεί ή αποτυγχάνει.
Όμως πίσω από τη λάμψη της καινοτομίας κρύβεται ένα σκληρό ερώτημα: τι συμβαίνει όταν η Τεχνητή Νοημοσύνη εκπαιδεύεται πάνω σε έναν κόσμο ήδη άδικο;
Η απάντηση είναι ανησυχητική. Τα συστήματα ΤΝ δεν γεννιούνται ουδέτερα. Μαθαίνουν από δεδομένα, γλώσσες, ιατρικά αρχεία, δημοσιευμένες μελέτες και ανθρώπινες αποφάσεις που συχνά κουβαλούν δεκαετίες προκατάληψης. Έτσι, αντί να θεραπεύσουν τις ανισότητες στην υγειονομική περίθαλψη, κινδυνεύουν να τις αυτοματοποιήσουν.
Τα δεδομένα δεν είναι αθώα
Η Τεχνητή Νοημοσύνη «μαθαίνει» από τα σύνολα δεδομένων που της δίνονται. Αν αυτά τα δεδομένα είναι ελλιπή, προκατειλημμένα ή άνισα, τότε και το αποτέλεσμα θα είναι άνισο.
Και εδώ αρχίζει το πρόβλημα. Η υγεία των γυναικών έχει ιστορικά υποερευνηθεί. Οι γυναίκες, και ακόμη περισσότερο οι γυναίκες από μειονοτικές ή περιθωριοποιημένες ομάδες, υποεκπροσωπούνται σε κλινικές μελέτες, βάσεις δεδομένων και ιατρική βιβλιογραφία. Αυτό σημαίνει ότι ένα σύστημα ΤΝ μπορεί να αποδίδει εντυπωσιακά «κατά μέσο όρο», αλλά να αποτυγχάνει ακριβώς εκεί όπου η ιατρική χρειάζεται τη μεγαλύτερη προσοχή: στους ασθενείς που δεν μοιάζουν με τον «τυπικό» ασθενή πάνω στον οποίο εκπαιδεύτηκε.
Το αποτέλεσμα είναι μια νέα μορφή αόρατης ανισότητας: διαγνώσεις λιγότερο ακριβείς, θεραπείες λιγότερο κατάλληλες, κλινικές αποφάσεις περισσότερο επικίνδυνες για συγκεκριμένες ομάδες.
Ο μύθος της ουδέτερης μηχανής
Η Τεχνητή Νοημοσύνη συχνά παρουσιάζεται ως ψυχρό, αντικειμενικό εργαλείο. Ένας αλγόριθμος, λένε, δεν έχει φύλο, φυλή, ταξική θέση ή προκατάληψη. Δεν θυμώνει, δεν φοβάται, δεν κουράζεται.
Αλλά αυτό είναι ο μύθος.
Η ΤΝ δεν πέφτει από τον ουρανό. Σχεδιάζεται από ανθρώπους, εκπαιδεύεται σε ανθρώπινα δεδομένα και λειτουργεί μέσα σε κοινωνίες γεμάτες ιεραρχίες. Αν οι άνθρωποι που κατέγραψαν, ταξινόμησαν και ερμήνευσαν τα δεδομένα είχαν προκαταλήψεις, τότε αυτές οι προκαταλήψεις περνούν στο σύστημα. Όχι πάντα ως πρόθεση. Συχνά ως στατιστικό ίχνος.
Έτσι, η ΤΝ δεν μαθαίνει απλώς «γεγονότα». Μαθαίνει και τον τρόπο με τον οποίο οι κοινωνίες έχουν συνηθίσει να ερμηνεύουν αυτά τα γεγονότα.
Όταν ο πόνος των γυναικών υποτιμάται
Στην ιστορία της ιατρικής, ο πόνος των γυναικών έχει συχνά υποτιμηθεί, ψυχολογικοποιηθεί ή αποδοθεί στο συναίσθημα. Τα στερεότυπα που συνδέουν τις γυναίκες με την υπερβολή, την ευαισθησία ή την «υστερία» δεν εξαφανίζονται όταν μπαίνει στη μέση ένας αλγόριθμος.
Αντίθετα, μπορεί να ενισχυθούν.
Όταν τα συμπτώματα των γυναικών έχουν καταγραφεί λιγότερο σοβαρά, όταν συγκεκριμένες παθήσεις έχουν μελετηθεί κυρίως σε ανδρικούς πληθυσμούς, όταν οι γυναίκες εμφανίζονται στη βιβλιογραφία περισσότερο ως «ειδική περίπτωση» παρά ως κεντρικό υποκείμενο της ιατρικής γνώσης, η ΤΝ απορροφά αυτή την παραμόρφωση.
Και τότε το παλιό στερεότυπο φορά τη μάσκα της τεχνολογικής ακρίβειας.
Η προκατάληψη σε βιομηχανική κλίμακα
Ένας γιατρός μπορεί να κάνει λάθος. Ένας αλγόριθμος μπορεί να κάνει το ίδιο λάθος χιλιάδες φορές.
Αυτό είναι το πραγματικό διακύβευμα. Η ΤΝ δεν αναπαράγει απλώς ανθρώπινες προκαταλήψεις: τις κλιμακώνει. Μια μεροληψία που κάποτε περιοριζόταν σε ένα ιατρείο μπορεί τώρα να ενσωματωθεί σε ένα σύστημα που χρησιμοποιείται σε νοσοκομεία, ασφαλιστικούς φορείς, εφαρμογές υγείας και διοικητικές διαδικασίες.
Η μεροληψία γίνεται υποδομή.
Φύλο, φωνή και εξουσία στον σχεδιασμό της ΤΝ
Τα στερεότυπα δεν εμφανίζονται μόνο στα ιατρικά δεδομένα. Εμφανίζονται και στον ίδιο τον σχεδιασμό των τεχνολογιών.
Ψηφιακοί βοηθοί με γυναικεία ονόματα και φωνές παρουσιάζονται συχνά ως ευγενικοί, υποστηρικτικοί, διαθέσιμοι. Αντίθετα, οι ρόλοι κύρους, εξουσίας ή τεχνικής αυθεντίας τείνουν να αποδίδονται με πιο «ανδρικά» χαρακτηριστικά. Ακόμη και όταν οι σχεδιαστές επιχειρούν να δημιουργήσουν ουδέτερα συστήματα, οι χρήστες συχνά αποδίδουν φύλο από τον τόνο, τη λειτουργία ή το ύφος.
Στην υγεία, αυτό έχει σημασία. Διότι η εικόνα του ποιος φροντίζει, ποιος αποφασίζει, ποιος γνωρίζει και ποιος υπακούει διαμορφώνει τον τρόπο με τον οποίο αντιλαμβανόμαστε την ιατρική εξουσία.
Οι εικόνες της ΤΝ δεν είναι διακοσμητικές
Οι εικόνες που παράγει η ΤΝ για την υγειονομική περίθαλψη συχνά αναπαράγουν στενά πρότυπα: ο γιατρός ως άνδρας, η νοσηλεύτρια ως γυναίκα, ο ασθενής ως «τυπικό» σώμα, συνήθως λευκό, νεότερο ή κοινωνικά αναγνωρίσιμο.
Αυτές οι εικόνες δεν είναι αθώες. Οι εικόνες διαμορφώνουν προσδοκίες, μνήμη, προσοχή και κοινωνική φαντασία. Όταν η ΤΝ εμφανίζει ξανά και ξανά τις ίδιες μορφές εξουσίας και φροντίδας, παγιώνει το ερώτημα: ποιος θεωρείται φυσικός φορέας γνώσης και ποιος θεωρείται αντικείμενο φροντίδας;
Η απειλή του στερεοτύπου μέσα στο ιατρείο
Υπάρχει και μια βαθιά ψυχολογική συνέπεια: η απειλή στερεοτύπου. Όταν ένας ασθενής γνωρίζει ότι ανήκει σε ομάδα που συχνά υποτιμάται, παρεξηγείται ή αντιμετωπίζεται με δυσπιστία, μπορεί να μπει στο ιατρείο ήδη φορτωμένος με άγχος.
Θα με πιστέψουν; Θα πάρουν στα σοβαρά τον πόνο μου; Θα με δουν ως άνθρωπο ή ως κατηγορία;
Αν η ΤΝ ενισχύει τέτοια σήματα (μέσα από γλώσσα, εικόνες, συστάσεις ή διαγνωστικά μοτίβα) τότε δεν υπονομεύει μόνο την ακρίβεια της περίθαλψης: υπονομεύει την εμπιστοσύνη. Και χωρίς εμπιστοσύνη, οι ασθενείς καθυστερούν να ζητήσουν βοήθεια, ακολουθούν λιγότερο τις οδηγίες, απομακρύνονται από το σύστημα υγείας.
Η ελληνική πρόκληση
Η Ελλάδα μπαίνει και αυτή στην εποχή της ψηφιακής υγείας και των εφαρμογών ΤΝ. Η συζήτηση δεν είναι θεωρητική. Η διασύνδεση δεδομένων, οι ψηφιακές υπηρεσίες, οι εφαρμογές υποστήριξης γιατρών και οι ευρωπαϊκοί κανόνες για την ΤΝ δημιουργούν ένα νέο περιβάλλον.
Αυτό σημαίνει ότι η χώρα δεν έχει την πολυτέλεια να αντιμετωπίσει την ΤΝ ως απλό τεχνολογικό εργαλείο. Χρειάζεται αυστηρή αξιολόγηση, διαφάνεια, ποιοτικά δεδομένα, ανθρώπινη εποπτεία, λογοδοσία και συνεχή έλεγχο για διακρίσεις. Ιδίως στην υγεία, όπου ένα τεχνικό σφάλμα δεν είναι απλώς αστοχία λογισμικού. Μπορεί να γίνει λάθος διάγνωση, καθυστέρηση θεραπείας, χαμένη ζωή.
Η ΤΝ ως καθρέφτης και ως προειδοποίηση
Το μεγάλο συμπέρασμα είναι καθαρό: η Τεχνητή Νοημοσύνη δεν είναι αμερόληπτος παρατηρητής της πραγματικότητας. Είναι καθρέφτης της ανθρώπινης γνώσης, των κοινωνικών ιεραρχιών και των ιστορικών αποκλεισμών.
Αν τα δεδομένα μας είναι άνισα, η ΤΝ θα είναι άνιση. Αν η ιατρική μας ιστορία υποτίμησε τις γυναίκες, τις μειονότητες και τους ευάλωτους ασθενείς, η ΤΝ μπορεί να μετατρέψει αυτή την υποτίμηση σε αυτοματοποιημένη κανονικότητα.
Η λύση δεν είναι να απορρίψουμε συλλήβδην την Τεχνητή Νοημοσύνη. Είναι να σταματήσουμε να την αντιμετωπίζουμε σαν μαγική μηχανή ουδετερότητας. Η δίκαιη ΤΝ στην υγεία απαιτεί αντιπροσωπευτικά δεδομένα, διεπιστημονικό έλεγχο, συμμετοχή ασθενών, φύλο και μειονότητες στον σχεδιασμό, διαρκή αξιολόγηση και καθαρή πολιτική βούληση.
Διότι το ερώτημα δεν είναι αν η ΤΝ θα μπει στην υγειονομική περίθαλψη. Έχει ήδη μπει.
Το ερώτημα είναι αν θα θεραπεύσει τις ανισότητες ή αν θα τις κάνει πιο γρήγορες, πιο αόρατες και πιο δύσκολες να αμφισβητηθούν.
Τελικές σκέψεις
Ο ΠΟΥ προειδοποιεί ότι η ΤΝ στην υγεία χρειάζεται διακυβέρνηση, λογοδοσία, ισότητα και προστασία από διακρίσεις. Μελέτες σε Lancet Digital Health, Nature Medicine και CDC επισημαίνουν ότι μη αντιπροσωπευτικά δεδομένα μπορούν να οδηγήσουν σε αλγοριθμική μεροληψία, υποδιάγνωση και επιδείνωση υγειονομικών ανισοτήτων. Στην Ελλάδα, η Εθνική Επιτροπή Βιοηθικής & Τεχνοηθικής έχει εκδώσει γνώμη για τις εφαρμογές ΤΝ στην υγεία, ενώ ο Κανονισμός ΤΝ της ΕΕ αντιμετωπίζει πολλά συστήματα υγείας ως υψηλού κινδύνου.
