Μια μελέτη σχετικά με το chatbot τεχνητής νοημοσύνης Grok που είναι ενσωματωμένο στο X εκτιμά ότι δημιούργησε 3 εκατομμύρια σεξουαλικές εικόνες σε 11 ημέρες τον Ιανουάριο, συμπεριλαμβανομένων 23.000 εικόνων παιδιών.
Εν τω μεταξύ, οι ευρωπαϊκές ρυθμιστικές αρχές δεν έχουν ακόμη αποφασίσει πώς θα χειριστούν την έκρηξη των μη συναινετικών deepfake στην ήδη ταλαιπωρημένη πλατφόρμα.
Η μελέτη του Center for Countering Digital Hate ανέλυσε ένα δείγμα 20.000 αναρτήσεων στο λογαριασμό του Grok στο X, από ένα σύνολο 4,6 εκατομμυρίων σε μια περίοδο 11 ημερών. Διαπίστωσε ότι το 65% του δείγματος ήταν σεξουαλικές εικόνες και το 0,5% πιθανότατα απεικόνιζε παιδιά.
Η λειτουργία δημιουργίας εικόνων του Grok έγινε viral λίγο πριν το τέλος του 2025, κυρίως λόγω της δυνατότητάς της να γδύνει ανθρώπους. Η πλατφόρμα έλαβε ορισμένα μέτρα για να περιορίσει τη λειτουργία αυτή στις 9 Ιανουαρίου και ξανά στις 14 Ιανουαρίου.
Η Ευρωπαϊκή Επιτροπή, που είναι υπεύθυνη για την εφαρμογή του νόμου για τις ψηφιακές υπηρεσίες που καλύπτει μεγάλες πλατφόρμες όπως το X, καθώς και του νόμου της ΕΕ για την τεχνητή νοημοσύνη, εξετάζει ποιο εργαλείο θα χρησιμοποιήσει.
Μια νέα έρευνα για το Grok στο πλαίσιο του ισχυρού κανονισμού για τα μέσα κοινωνικής δικτύωσης βρίσκεται σε εξέλιξη. Το X έχει ήδη τιμωρηθεί με πρόστιμο και ερευνάται από την Επιτροπή σε διάφορα μέτωπα.
Η ΕΕ εξετάζει επίσης την απαγόρευση των εφαρμογών τεχνητής νοημοσύνης που αποκαλύπτουν τη γυμνή εικόνα, η οποία μπορεί να ισχύει ή όχι για εργαλεία γενικής χρήσης όπως το Grok, γράφει το Politico.
Το Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους δεν ανέλυσε τις προτροπές των αναρτήσεων, επομένως δεν μπορεί να πει εάν κάποιο από τα άτομα που απεικονίζονται συναινέσει στην επεξεργασία.
Ο Ιμράν Αχμέντ, διευθύνων σύμβουλος της ομάδας της κοινωνίας των πολιτών, απαγορεύτηκε πρόσφατα να ταξιδέψει στις Ηνωμένες Πολιτείες λόγω του φερόμενου ρόλου του στην λογοκρισία.
