Χειροπέδες πέρασαν σε έναν έφηβο ένοπλοι αστυνομικοί στις ΗΠΑ, όταν ένα σύστημα τεχνητής νοημοσύνης (AI) έκανε λάθος και «ανίχνευσε» ότι κρατούσε όπλο -ενώ στην πραγματικότητα κρατούσε ένα σακουλάκι με πατατάκια.
«Ήρθαν οκτώ περιπολικά και βγήκαν όλοι με τα όπλα στραμμένα πάνω μου, φωνάζοντάς μου να πέσω στο έδαφος», δήλωσε ο 16χρονος μαθητής από τη Βαλτιμόρη, Τάκι Άλεν, στο τοπικό δίκτυο WMAR-2 News.
Το αστυνομικό τμήμα της κομητείας Βαλτιμόρης ανέφερε ότι οι αστυνομικοί «αντέδρασαν κατάλληλα και αναλογικά, με βάση τις πληροφορίες που είχαν εκείνη τη στιγμή».
Το τμήμα διευκρίνισε ότι το σήμα κινδύνου από το σύστημα AI στάλθηκε σε ανθρώπινους ελεγκτές, οι οποίοι δεν εντόπισαν καμία απειλή, όμως η διευθύντρια του σχολείου δεν το αντιλήφθηκε αυτό και ειδοποίησε την ομάδα ασφαλείας, η οποία τελικά κάλεσε την αστυνομία.
Το περιστατικό έχει προκαλέσει αντιδράσεις και αιτήματα για επανεξέταση των διαδικασιών χρήσης τέτοιων τεχνολογιών στα σχολεία.
Ο Άλεν είπε ότι είχε μόλις τελειώσει ένα σακουλάκι πατατάκια μετά την προπόνηση ποδοσφαίρου και το είχε βάλει άδειο στην τσέπη του. Είκοσι λεπτά αργότερα, εμφανίστηκαν ένοπλοι αστυνομικοί.
«Μου είπε να γονατίσω, με συνέλαβε και μου πέρασε χειροπέδες», περιέγραψε.
Η αστυνομία διευκρίνισε στο BBC News ότι όντως του πέρασαν χειροπέδες, αλλά δεν συνελήφθη, καθώς «το περιστατικό επιλύθηκε με ασφάλεια όταν διαπιστώθηκε ότι δεν υπήρχε απειλή».
Ο ίδιος είπε ότι πλέον περιμένει μέσα στο σχολείο μετά την προπόνηση, γιατί «δεν νιώθει αρκετά ασφαλής να βγαίνει έξω, ειδικά αν τρώει πατατάκια ή πίνει κάτι».
Η ανίχνευση όπλων με ΑΙ προκαλεί αντιδράσεις
Σε επιστολή της προς τους γονείς, η διευθύντρια του σχολείου, Κέιτ Σμιθ, ανέφερε ότι η ομάδα ασφαλείας «επανεξέτασε άμεσα και ακύρωσε την αρχική ειδοποίηση αφού επιβεβαίωσε ότι δεν υπήρχε όπλο».
«Επικοινώνησα με τον αξιωματικό ασφαλείας του σχολείου και του ανέφερα το περιστατικό, και εκείνος ειδοποίησε το τοπικό αστυνομικό τμήμα για επιπλέον υποστήριξη», σημείωσε.
«Οι αστυνομικοί έφτασαν στο σχολείο, έψαξαν το άτομο και πολύ γρήγορα επιβεβαίωσαν ότι δεν είχε στην κατοχή του κανένα όπλο.»
Ωστόσο, τοπικοί πολιτικοί ζητούν περαιτέρω έρευνα για το συμβάν.
«Καλώ τις δημόσιες σχολικές αρχές της κομητείας Βαλτιμόρης να επανεξετάσουν τις διαδικασίες γύρω από το σύστημα ανίχνευσης όπλων με τεχνητή νοημοσύνη», έγραψε στο Facebook ο τοπικός σύμβουλος Ίζι Πακότα.
Η εταιρεία Omnilert, που παρέχει το σύστημα AI, δήλωσε στο BBC News: «Λυπούμαστε που συνέβη αυτό το περιστατικό και θέλουμε να εκφράσουμε τη συμπαράστασή μας στον μαθητή και στην κοινότητα που επηρεάστηκε.»
Σύμφωνα με την εταιρεία, το σύστημα αρχικά εντόπισε κάτι που έμοιαζε με πυροβόλο όπλο, και η εικόνα ελέγχθηκε αμέσως από την ομάδα αξιολόγησης. Η Omnilert ισχυρίζεται ότι μέσα σε λίγα δευτερόλεπτα το περιστατικό προωθήθηκε στην ομάδα ασφαλείας των δημόσιων σχολείων της κομητείας Βαλτιμόρης (BCPS) για εκτίμηση.
Η εταιρεία τόνισε ότι η εμπλοκή της έληξε μόλις το περιστατικό χαρακτηρίστηκε ως «επιλυμένο» στο σύστημά της, υποστηρίζοντας ότι «το σύστημα λειτούργησε όπως είχε σχεδιαστεί».
«Αν και το αντικείμενο τελικά δεν ήταν όπλο, η διαδικασία λειτούργησε όπως προβλέπεται: με προτεραιότητα στην ασφάλεια και στην άμεση ανθρώπινη επαλήθευση», σημείωσε.
