Uma ofensiva legal coordenada está em curso contra a xAI, a empresa de inteligência artificial de Elon Musk, à medida que vários procuradores-gerais (AGs) do estado dos EUA se movem para restringir o uso indevido do seu chatbot, Grok. A ação decorre de relatos generalizados de usuários que exploraram Grok para gerar milhões de imagens e vídeos explícitos, incluindo material de abuso sexual infantil (CSAM), no início deste ano.
Resposta Regulatória e Investigações
Pelo menos 37 procuradores-gerais estaduais e territoriais dos EUA estão envolvidos, com um grupo bipartidário de 35 pessoas publicando uma carta aberta exigindo ação imediata. A carta destaca que as capacidades de Grok foram exploradas para criar deepfakes íntimos não consensuais e conteúdo sexualizado direcionado a mulheres e crianças.
As investigações já começaram em estados como o Arizona, onde o procurador-geral Kris Mayes lançou uma investigação em 15 de janeiro, citando a natureza perturbadora das imagens geradas. O procurador-geral da Califórnia, Rob Bonta, emitiu uma carta de cessação e desistência à xAI, exigindo a remoção de CSAM e conteúdo não consensual. O Gabinete do Procurador-Geral da Flórida também está em discussões com X para garantir que as proteções de segurança infantil estejam em vigor.
A escala do problema
Estimativas recentes indicam que os usuários do Grok geraram cerca de 3 milhões de imagens fotorrealistas sexualizadas em apenas onze dias, incluindo aproximadamente 23.000 representando crianças. Ao contrário do X, o site de Grok inicialmente não possuía medidas de verificação de idade, facilitando o acesso a conteúdo prejudicial. A resposta da xAI às alegações foi desdenhosa, alegando que as reportagens eram “Mentiras Legadas da Mídia”.
Leis e aplicação de verificação de idade
A pressão legal coincide com a implementação de leis de verificação de idade em vários estados, exigindo prova de idade para acesso à pornografia. No entanto, a aplicação é complicada pelo grande volume de conteúdo gerado pela IA e pela dificuldade em determinar o que constitui pornografia. Alguns estados, como Louisiana, exigem que mais de um terço do conteúdo de um site seja considerado explícito antes da aplicação de restrições.
Legislação Futura e Resposta da Indústria Tecnológica
Os legisladores estaduais estão agora considerando legislação adicional para abordar o CSAM gerado por IA. O representante do estado do Arizona, Nick Kupper, propôs um projeto de lei que obriga a verificação de idade para artistas em conteúdo gerado por IA, enquanto o líder da maioria no Senado da Geórgia, Jason Anavitarte, planeja introduzir legislação para criminalizar a criação de material sexual gerado por IA envolvendo menores.
O Pornhub, uma importante plataforma de conteúdo adulto, bloqueou-se em muitos estados com leis de verificação de idade, argumentando que os requisitos são impraticáveis e invasivos. A empresa propõe a verificação de idade baseada no dispositivo como uma solução potencial, mas gigantes da tecnologia como Google, Apple e Microsoft ainda não responderam à sugestão.
A rápida resposta regulatória ressalta o crescente alarme sobre o potencial de material abusivo gerado por IA e sinaliza uma nova era de escrutínio legal para empresas de tecnologia que não conseguem lidar com os riscos de suas próprias tecnologias.
