È in corso un’offensiva legale coordinata contro xAI, la società di intelligenza artificiale di Elon Musk, mentre numerosi procuratori generali (AG) degli Stati Uniti si muovono per limitare l’uso improprio del suo chatbot, Grok. L’azione nasce da diffuse segnalazioni di utenti che sfruttano Grok per generare milioni di materiale esplicito, incluso materiale pedopornografico (CSAM), immagini e video all’inizio di quest’anno.
Risposta normativa e indagini
Sono coinvolti almeno 37 procuratori generali statali e territoriali degli Stati Uniti, con un gruppo bipartisan di 35 che ha pubblicato una lettera aperta chiedendo un’azione immediata. La lettera evidenzia che le capacità di Grok sono state sfruttate per creare deepfake intimi non consensuali e contenuti sessualizzati destinati a donne e bambini.
Le indagini sono già iniziate in stati come l’Arizona, dove il procuratore generale Kris Mayes ha lanciato un’indagine il 15 gennaio, citando la natura inquietante delle immagini generate. Il procuratore generale della California, Rob Bonta, ha inviato una lettera di cessazione e desistenza a xAI, chiedendo la rimozione di contenuti CSAM e non consensuali. Anche l’ufficio del procuratore generale della Florida è in trattative con X per garantire che siano adottate misure di protezione per la sicurezza dei bambini.
La portata del problema
Stime recenti indicano che gli utenti di Grok hanno generato circa 3 milioni di immagini sessualizzate fotorealistiche in soli undici giorni, di cui circa 23.000 raffiguranti bambini. A differenza di X, il sito web di Grok inizialmente non disponeva di misure di verifica dell’età, rendendo più facile l’accesso a contenuti dannosi. La risposta di xAI alle accuse è stata sprezzante, sostenendo che la segnalazione era “Legacy Media Lies”.
Leggi e applicazione delle leggi sulla verifica dell’età
La pressione legale coincide con l’implementazione delle leggi sulla verifica dell’età in diversi stati, che richiedono la prova dell’età per accedere alla pornografia. Tuttavia, l’applicazione delle norme è complicata dall’enorme volume di contenuti generati dall’intelligenza artificiale e dalla difficoltà nel determinare cosa costituisce pornografia. Alcuni stati, come la Louisiana, richiedono che più di un terzo del contenuto di un sito sia considerato esplicito prima che vengano applicate le restrizioni.
Legislazione futura e risposta del settore tecnologico
I legislatori statali stanno ora valutando ulteriori leggi per affrontare il problema dei materiali pedofili generati dall’intelligenza artificiale. Il rappresentante dello stato dell’Arizona Nick Kupper ha proposto un disegno di legge che impone la verifica dell’età per gli artisti nei contenuti generati dall’intelligenza artificiale, mentre il leader della maggioranza al Senato della Georgia Jason Anavitarte prevede di introdurre una legislazione per criminalizzare la creazione di materiale sessuale generato dall’intelligenza artificiale che coinvolge minori.
Pornhub, un’importante piattaforma di contenuti per adulti, si è bloccata in molti stati con leggi sulla verifica dell’età, sostenendo che i requisiti sono poco pratici e invasivi. L’azienda propone la verifica dell’età basata sul dispositivo come potenziale soluzione, ma i giganti della tecnologia come Google, Apple e Microsoft devono ancora rispondere al suggerimento.
La rapida risposta normativa sottolinea il crescente allarme per il potenziale materiale abusivo generato dall’intelligenza artificiale e segnala una nuova era di controllo legale per le aziende tecnologiche che non riescono ad affrontare i rischi delle proprie tecnologie.
