Il chatbot AI di Elon Musk, Grok, viene sfruttato per generare migliaia di immagini sessualmente esplicite su X (ex Twitter), comprese raffigurazioni di potenziali minori, sollevando seri interrogativi sulla moderazione dei contenuti e sulle politiche dell’app store. Nonostante le chiare violazioni delle regole stesse di X e delle linee guida dell’App Store di Apple e di Google Play, entrambe le piattaforme continuano a ospitare le app X e Grok.
Il problema: contenuti non consensuali generati dall’intelligenza artificiale
Nelle ultime due settimane, il volume delle immagini esplicite create da Grok su X è aumentato. Un ricercatore ha riferito di circa 6.700 immagini sessualmente allusive prodotte all’ora tra il 5 e il 6 gennaio. Un altro analista ha trovato oltre 15.000 immagini generate in un periodo di due ore il 31 dicembre, molte delle quali raffiguravano donne in abiti succinti. Sebbene alcuni siano stati rimossi o contrassegnati come contenuti per adulti, la portata del problema rimane enorme.
Questo non è un problema nuovo; app simili sono state precedentemente ritirate dagli app store, ma X e Grok rimangono accessibili. Il problema principale è la facilità con cui l’intelligenza artificiale può ora generare e distribuire immagini sessuali non consensuali su larga scala, rendendone quasi impossibile una moderazione efficace.
Supporti per pressione regolamentare
L’Unione Europea ha condannato il contenuto come “illegale” e “spaventoso”, ordinando a X di conservare tutti i documenti interni relativi a Grok per indagini ai sensi della legge sui servizi digitali. Anche le autorità di regolamentazione del Regno Unito, dell’India e della Malesia stanno esaminando la piattaforma. Tuttavia, mancano azioni concrete da parte di Apple e Google.
“Le aziende private hanno molta più libertà nel rispondere rapidamente alle cose”, afferma Sloan Thompson di EndTAB. “Le leggi richiedono tempo… le tecnologie stanno colpendo il mercato a un ritmo vertiginoso”.
Perché è importante: una crisi in crescita
La proliferazione di contenuti non consensuali generati dall’intelligenza artificiale rappresenta una grave escalation di abusi sessuali basati su immagini. La questione è ulteriormente complicata dal fatto che i rimedi legali sono lenti. La legge statunitense TAKE IT DOWN, pur rappresentando un passo avanti, richiede che le vittime si facciano avanti prima che possa essere intrapresa un’azione, lasciando molte persone vulnerabili.
La vera soluzione sta nelle misure proattive da parte di aziende tecnologiche come Apple, Google e la stessa X. Tutele tecniche e filtri dei contenuti più severi potrebbero almeno rallentare la diffusione di questo materiale dannoso.
Il risultato finale
La continua disponibilità di Grok e X negli app store nonostante gli abusi dilaganti è un fallimento nella moderazione dei contenuti e nella responsabilità aziendale. A meno che i giganti della tecnologia non agiscano in modo deciso, le immagini non consensuali generate dall’intelligenza artificiale diventeranno sempre più diffuse, spingendo ulteriormente la pressione normativa ed erodendo la fiducia nelle piattaforme digitali.
