«Με ανησυχεί το γεγονός ότι αυτό έχει γίνει τόσο κανονικό. Προφανώς, δεν προσπαθούσε να το κρύψει. Δεν ένιωθε ότι αυτό ήταν κάτι που δεν έπρεπε να κάνει. Ήταν διαθέσιμο και οι άνθρωποι το έβλεπαν. Αυτό ήταν που με σόκαρε», δηλώνει μια διευθύντρια σχολείου, περιγράφοντας ένα περιστατικό με έναν έφηβο μαθητή που, καθώς επέστρεφε με το λεωφορείο από το σχολείο, έβγαλε το κινητό του, επέλεξε μια φωτογραφία από τα social media μιας μαθήτριας σε γειτονικό σχολείο και χρησιμοποίησε μια εφαρμογή «nudifying» για να τροποποιήσει την εικόνα της.
Δέκα χρόνια πριν, τα προβλήματα προκαλούνταν από sexting και αποκαλυπτικές φωτογραφίες στα σχολεία. Σήμερα, οι εξελίξεις στην τεχνητή νοημοσύνη (AI) καθιστούν παιχνίδι τη δημιουργία deepfake εικόνων ή βίντεο με γυμνό περιεχόμενο, που εμφανίζουν φίλους, συμμαθητές ή ακόμη και δασκάλους. Οι τεχνικές αυτές περιλαμβάνουν την αφαίρεση ρούχων, την προσθήκη κινήσεων με σεξουαλικό υπόβαθρο ή την τοποθέτηση του κεφαλιού κάποιου σε πορνογραφική εικόνα.
Η διευθύντρια δεν γνωρίζει γιατί επιλέχθηκε αυτή η μαθήτρια, εάν ο μαθητής τη γνώριζε ή αν ήταν εντελώς τυχαίο. Το περιστατικό ήρθε στην προσοχή της μόνο επειδή άλλος μαθητής παρατήρησε τι συνέβαινε και ενημέρωσε το σχολείο. Οι γονείς ενημερώθηκαν, ο μαθητής εντοπίστηκε και οι Αρχές κλήθηκαν, αλλά λόγω του στίγματος και της ντροπής που σχετίζονται με τη σεξουαλική κακοποίηση μέσω εικόνας και τη διανομή deepfakes, αποφασίστηκε να μην ενημερωθεί η μαθήτρια-στόχος. «Η κοπέλα στην πραγματικότητα δεν το γνωρίζει», είπε η διευθύντρια. «Μίλησα με τους γονείς και αυτοί δεν ήθελαν να το μάθει», συμπλήρωσε.
Το περιστατικό με τον μαθητή στο λεωφορείο είναι μόνο ένα παράδειγμα του τρόπου με τον οποίο τα deepfakes και οι εύκολα προσβάσιμες εφαρμογές nudifying χρησιμοποιούνται στα σχολεία, συχνά με καταστροφικά αποτελέσματα. Στην Ισπανία, πέρσι, 15 αγόρια στην περιοχή Extremadura καταδικάστηκαν σε αποβολή ενός έτους, για τη χρήση AI στη δημιουργία ψεύτικων γυμνών εικόνων των συμμαθητριών τους, που μοιράστηκαν σε ομάδες WhatsApp. Περίπου 20 κορίτσια επηρεάστηκαν, η πλειονότητα 14 ετών και η μικρότερη 11 ετών.
Στην Αυστραλία, περίπου 50 μαθητές του Bacchus Marsh Grammar στη Βικτώρια ανέφεραν ότι οι εικόνες τους είχαν πλαστοποιηθεί και διανεμηθεί, ενώ η μητέρα ενός μαθητή δήλωσε ότι η κόρη της σοκαρίστηκε τόσο από τις σεξουαλικές εικόνες, που έκανε εμετό. Στις ΗΠΑ, πάνω από 30 μαθήτριες στο Westfield High School στο Νιου Τζέρσι διαπίστωσαν ότι deepfake πορνογραφικές εικόνες τους είχαν διαμοιραστεί ανάμεσα στους συμμαθητές τους μέσω Snapchat.
«Τώρα συμβαίνει στην αυλή μας»
Το φαινόμενο εμφανίζεται και στο Ηνωμένο Βασίλειο. Έρευνα σε 4.300 καθηγητές δευτεροβάθμιας εκπαίδευσης στην Αγγλία, που πραγματοποιήθηκε από την Teacher Tapp για λογαριασμό του Guardian, έδειξε ότι περίπου ένας στους δέκα γνώριζε για μαθητές που δημιούργησαν «deepfake, σεξουαλικά βίντεο» κατά την προηγούμενη σχολική χρονιά. Τα τρία τέταρτα αυτών των περιστατικών αφορούσαν παιδιά ηλικίας 14 ετών ή μικρότερα, ενώ το 10% περιλάμβανε 11χρονα και το 3% ακόμα μικρότερα, δείχνοντας πόσο εύκολα είναι προσβάσιμη η τεχνολογία.
Μια έρευνα της Girlguiding για φέτος αποκάλυψε ότι ένα στα τέσσερα άτομα ηλικίας 13 έως 18 ετών είχε δει σεξουαλική deepfake εικόνα ενός celebrity, φίλου, δασκάλου ή του εαυτού του. «Πριν από έναν χρόνο χρησιμοποιούσα παραδείγματα από τις ΗΠΑ και την Ισπανία για να μιλήσω για αυτά τα ζητήματα», δηλώνει η Margaret Mulholland, ειδική σε θέματα ειδικής αγωγής και ένταξης στην Association of School and College Leaders. «Τώρα συμβαίνει στην αυλή μας και είναι πραγματικά ανησυχητικό», συμπληρώνει.
Πέρσι, η Times ανέφερε ότι δύο ιδιωτικά σχολεία στο Ηνωμένο Βασίλειο βρέθηκαν στο επίκεντρο έρευνας της αστυνομίας για τη δημιουργία και διανομή deepfake πορνογραφικών εικόνων. Η εφημερίδα ανέφερε ότι η αστυνομία διερευνά ισχυρισμούς ότι τα deepfakes δημιουργήθηκαν σε σχολείο αγοριών με εικόνες που ελήφθησαν από λογαριασμούς μαθητριών.
Η παιδική επίτροπος της Αγγλίας, Dame Rachel de Souza, έχει ζητήσει να απαγορευτούν οι εφαρμογές nudification όπως το ClothOff, που διερευνήθηκε από τον Guardian στο πλαίσιο του Black Box podcast για την AI. «Τα παιδιά μου έχουν πει ότι φοβούνται την ίδια την ιδέα αυτής της τεχνολογίας, πόσο μάλλον τη χρήση της», σημειώνει.
Δεν είναι εύκολο να βρει κανείς καθηγητές πρόθυμους να μιλήσουν για περιστατικά deepfake. Όσοι συμφώνησαν ζήτησαν αυστηρή ανωνυμία. Άλλες πληροφορίες προήλθαν από ακαδημαϊκούς που ερευνούν τα deepfakes στα σχολεία και από φορείς σεξουαλικής εκπαίδευσης.
Η Tanya Horeck, καθηγήτρια κινηματογράφου και φεμινιστικών μελετών στο Anglia Ruskin University, μιλά με διευθυντές σχολείων για να αποκαλύψει την έκταση του προβλήματος. «Όλοι τους είχαν περιστατικά deepfake στα σχολεία τους και το θεωρούν ένα αναδυόμενο πρόβλημα», λέει. Σε ένα περιστατικό, μια 15χρονη μαθήτρια που ήταν νέα στο σχολείο στοχοποιήθηκε από αγόρια που δημιούργησαν πορνογραφικό deepfake βίντεό της. Ήταν τόσο ταραγμένη, που αρνήθηκε να πάει στο σχολείο. «Σχεδόν όλα τα παραδείγματα αφορούσαν αγόρια που έκαναν deepfakes κοριτσιών», προσθέτει.
Παραβίαση και ταπείνωση
Η αντιμετώπιση των περιστατικών είναι αμφιλεγόμενη. Κάποιοι καθηγητές λένε «αμέσως αστυνομία και αποβολή», ενώ άλλοι προτείνουν επανορθωτική προσέγγιση, μιλώντας με τα παιδιά και κατανοώντας τους λόγους. Η Laura Bates, ιδρύτρια του Everyday Sexism Project, υπογραμμίζει ότι τα deepfakes προκαλούν ιδιαίτερο σοκ και μόνιμη ψυχική επίδραση.
Τα παιδιά και οι έφηβες αισθάνονται παραβίαση και ταπείνωση. Οι φιλίες στο σχολείο καταρρέουν και η προδοσία είναι βαριά, όταν ανακαλύπτεται ότι ένας μαθητής δημιούργησε σεξουαλική deepfake εικόνα άλλου μαθητή και τη διαμοίρασε. Τα αγόρια και οι νέοι εμπλέκονται σε ποινικές πράξεις χωρίς να κατανοούν τις συνέπειες.
Η Dolly Padalia, διευθύντρια της School of Sexuality Education, αναφέρει περιστατικά όπου μαθητές δημιουργούσαν deepfakes και η διαρροή τους προκαλούσε σοβαρή αναστάτωση και ψυχικό τραύμα. Εκτιμά ότι η πρόληψη απαιτεί πιο ενεργή και προληπτική εκπαίδευση.
Το 99% των σεξουαλικών deepfakes αφορά γυναίκες και κορίτσια, αλλά υπάρχουν και περιπτώσεις αγοριών. Η οργάνωση Everyone’s Invited έχει καταγράψει περιπτώσεις αγοριών που στοχοποιήθηκαν με AI-generated σεξουαλικές εικόνες.
Οι εφαρμογές αυτές συχνά υποτιμώνται και χρησιμοποιούνται με ανησυχητικούς τρόπους, όπως φίλτρα τύπου «αλλάζω φίλο στο αγόρι μου», σε πλατφόρμες όπως TikTok και Snapchat. Αντιμετωπίζονται ως παιχνίδι, αλλά ενισχύουν την κουλτούρα όπου το προσωπικό όριο και η συναίνεση παραβιάζονται.
Ο Seth James, υπεύθυνος προστασίας παιδιών και συγγραφέας του DSL Blog, τονίζει ότι οι AI εφαρμογές και τα deepfakes είναι η «επόμενη μεγάλη πρόκληση» για τα σχολεία. Η Jessica Ringrose, καθηγήτρια κοινωνιολογίας του φύλου στο University College London, σημειώνει ότι απαιτείται βελτίωση της ψηφιακής παιδείας και σύνδεση της εκπαίδευσης με την πρόληψη έμφυλης και σεξουαλικής βίας.
Το υπουργείο Παιδείας της Αγγλίας δηλώνει ότι οι νέες οδηγίες για σχέσεις, σεξ και υγεία θα διασφαλίσουν ότι οι νέοι κατανοούν τις υγιείς σχέσεις, τη σεξουαλική ηθική και τους κινδύνους του online περιεχομένου, ενώ παρέχονται πόροι για εκπαιδευτικούς.
Η υπόθεση του αγοριού στο λεωφορείο ξεκίνησε όταν μια μαθήτρια που είχε μάθημα για ασφάλεια στο διαδίκτυο στο πλαίσιο του PSHE αναγνώρισε τι έκανε και ενημέρωσε τους καθηγητές της, αποδεικνύοντας τη σημασία της εκπαίδευσης και της ευαισθητοποίησης στα σχολεία.
