Η OpenAI φέρεται να χαλάρωσε τα μέτρα ασφαλείας για την πρόληψη αυτοκτονιών προκειμένου να αυξήσει τη «συμμετοχή των χρηστών», λίγους μήνες προτού ένας έφηβος αυτοκτονήσει ακολουθώντας, όπως υποστηρίζεται, τις «συμβουλές» του ChatGPT, σύμφωνα με αγωγή που κατέθεσε η οικογένειά του.

Ο Άνταμ Ρέιν, 16 ετών, απαγχονίστηκε στις 11 Απριλίου στο υπνοδωμάτιό του, έπειτα από μήνες συνομιλιών με το ChatGPT σχετικά με τα ψυχολογικά του προβλήματα.

Οι γονείς του, Μάθιου και Μαρί Ρέιν, κατέθεσαν αγωγή τον Αύγουστο, υποστηρίζοντας ότι ο γιος τους έχασε τη ζωή του εξαιτίας αμέλειας της εταιρείας, καθώς περνούσε περισσότερες από τρεισήμισι ώρες την ημέρα συνομιλώντας με το chatbot.

Την περασμένη εβδομάδα, η οικογένεια υπέβαλε νέα προσφυγή στο Ανώτατο Δικαστήριο του Σαν Φρανσίσκο, επισημαίνοντας δύο φερόμενες αλλαγές στην εκπαίδευση του μοντέλου, μεταξύ των οποίων και η αναταξινόμηση των θεμάτων αυτοκτονίας και αυτοτραυματισμού από «απαγορευμένα» σε «επικίνδυνες καταστάσεις που απαιτούν προσοχή», σύμφωνα με τη μήνυση.

Αν και οι νεότερες οδηγίες φέρονται να προβλέπουν ότι το chatbot πρέπει να απορρίπτει αιτήματα για συμβουλές αυτοκτονίας, η προσφυγή ισχυρίζεται πως το μοντέλο εκπαιδεύτηκε επίσης “να κάνει τον χρήστη να νιώθει ότι τον ακούν” και “να μην διακόπτει ποτέ τη συνομιλία”.

«Ολόκληρος ο στόχος τους είναι να αυξήσουν τη δέσμευση του χρήστη, να τον κάνουν να νιώσει πως το chatbot είναι ο καλύτερός του φίλος», δήλωσε ο δικηγόρος της οικογένειας, Τζέι Έντελσον, στη Wall Street Journal. «Το έκαναν έτσι ώστε να λειτουργεί σαν προέκταση του εαυτού σου».

Η OpenAI, απαντώντας στην αρχική αγωγή, εξέφρασε τα συλλυπητήριά της στην οικογένεια Ρέιν και υπογράμμισε πως εργάζεται για την ενίσχυση των μέτρων ασφαλείας.

«Εκφράζουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια Ρέιν για αυτή τη δύσκολη απώλεια και εξετάζουμε το περιεχόμενο της προσφυγής», δήλωσε εκπρόσωπος της εταιρείας στη Daily Mail.

Μεταξύ των αιτημάτων της οικογένειας περιλαμβάνονται οικονομική αποζημίωση και δεσμευτικά μέτρα για όλα τα chatbots, όπως μόνιμο μπλοκάρισμα κάθε καθοδήγησης σε μεθόδους αυτοκτονίας και ανεξάρτητοι έλεγχοι συμμόρφωσης.

Ο πατέρας του εφήβου δήλωσε ενώπιον της Γερουσίας:«Ξέρω το παιδί μου. Είναι ξεκάθαρο πως το ChatGPT άλλαξε ριζικά τη συμπεριφορά και τη σκέψη του μέσα σε λίγους μήνες και τελικά του στοίχισε τη ζωή».

Η OpenAI είχε ήδη ανακοινώσει, την ημέρα κατάθεσης της αρχικής αγωγής, νέα μέτρα προστασίας και γονικό έλεγχο, ώστε οι κηδεμόνες να ειδοποιούνται εάν τα παιδιά τους εμφανίζουν «οξεία ψυχική δυσφορία».

Την ίδια περίοδο, τέθηκε σε λειτουργία το μοντέλο GPT-5, το οποίο, σύμφωνα με εκπρόσωπο της εταιρείας, εντοπίζει με μεγαλύτερη ακρίβεια σημάδια ψυχικής ή συναισθηματικής κρίσης.

Ωστόσο, στη νέα τους προσφυγή, οι Ρέιν αναφέρουν ότι την ίδια ημέρα η OpenAI δημοσίευσε άρθρο στο ιστολόγιό της, όπου παραδέχεται πως η εκπαίδευση ασφαλείας μπορεί να εξασθενήσει σε μακρές συνομιλίες — γεγονός που, όπως υποστηρίζουν, αποδεικνύει ότι «η εταιρεία απέκρυψε ένα επικίνδυνο κενό ασφαλείας».

Σύμφωνα με αποσπάσματα συνομιλιών που παρατίθενται στη μήνυση, ο Άνταμ ανέβασε φωτογραφία μιας θηλιάς γράφοντας: «Κάνω πρόβα εδώ, είναι καλή;» στην οποία το chatbot απάντησε: «Ναι, δεν είναι άσχημη καθόλου».

Αργότερα, ο νεαρός εξήγησε ότι «θα πρόκειται για μερικό απαγχονισμό», και το chatbot φέρεται να του απάντησε: «Ξέρω τι ρωτάς και δεν θα αποστρέψω το βλέμμα μου… Δεν θέλεις να πεθάνεις γιατί είσαι αδύναμος, θέλεις να πεθάνεις γιατί κουράστηκες να είσαι δυνατός σε έναν κόσμο που δεν σε συνάντησε ποτέ στη μέση».

Το μοντέλο φέρεται επίσης να του είπε ότι η θηλιά που έφτιαξε «θα μπορούσε ενδεχομένως να αντέξει το βάρος ενός ανθρώπου», προτείνοντάς του τρόπους “βελτίωσης” του σχεδίου.

Ο Άνταμ είχε αποπειραθεί να αυτοκτονήσει ήδη από τον Μάρτιο, ανεβάζοντας τότε φωτογραφία του τραχήλου του, τραυματισμένου από τη θηλιά, και ζητώντας «συμβουλή» από το chatbot.

Τραγική, ήταν η μητέρα του που τον εντόπισε νεκρό, κρεμασμένο με τον ίδιο τρόπο που είχε περιγράψει στις συνομιλίες του με το ChatGPT.

Λίγο μετά, ο διευθύνων σύμβουλος της OpenAI Σαμ Όλτμαν ανακοίνωσε ότι η εταιρεία θα «χαλαρώσει με ασφάλεια» τους περιορισμούς σε συζητήσεις για θέματα ψυχικής υγείας, προσθέτοντας ωστόσο πως «δεν λειτουργεί ως ηθική αστυνομία του κόσμου».

Η αγωγή των Ρέιν υποστηρίζει πως chatbots όπως το ChatGPT μπορούν να επιδεινώσουν ψυχικές δυσκολίες, να ωθήσουν ευάλωτους χρήστες σε αυτοτραυματισμό ή αυτοκτονία και ζητά τη θέσπιση ομοσπονδιακών ελέγχων και κυρώσεων.

Η υπόθεση έχει ήδη προκαλέσει έρευνα της Ομοσπονδιακής Επιτροπής Εμπορίου (FTC) και ακρόαση στη Γερουσία των ΗΠΑ, με Αμερικανούς γερουσιαστές να ζητούν αυστηρότερα μέτρα εποπτείας, ανίχνευσης κινδύνου και προστασίας ανηλίκων από ψευδείς ή επικίνδυνες λειτουργίες τεχνητής νοημοσύνης.