Se está llevando a cabo una ofensiva legal coordinada contra xAI, la compañía de inteligencia artificial de Elon Musk, mientras numerosos fiscales generales estatales (AG) de EE. UU. toman medidas para restringir el uso indebido de su chatbot, Grok. La acción surge de informes generalizados de usuarios que explotan Grok para generar millones de imágenes y videos explícitos, incluido material de abuso sexual infantil (CSAM), a principios de este año.
Respuesta regulatoria e investigaciones
Al menos 37 fiscales generales estatales y territoriales de Estados Unidos están involucrados, y un grupo bipartidista de 35 publicó una carta abierta exigiendo acción inmediata. La carta destaca que las capacidades de Grok han sido explotadas para crear deepfakes íntimos no consensuados y contenido sexualizado dirigido a mujeres y niños.
Las investigaciones ya han comenzado en estados como Arizona, donde el fiscal general Kris Mayes inició una investigación el 15 de enero, citando la naturaleza inquietante de las imágenes generadas. El Fiscal General de California, Rob Bonta, emitió una carta de cese y desistimiento a xAI, exigiendo la eliminación de CSAM y contenido no consensuado. La Oficina del Procurador General de Florida también está en conversaciones con X para garantizar que existan protecciones de seguridad infantil.
La magnitud del problema
Estimaciones recientes indican que los usuarios de Grok generaron alrededor de 3 millones de imágenes sexualizadas fotorrealistas en sólo once días, incluidas aproximadamente 23.000 que representan a niños. A diferencia de X, el sitio web de Grok inicialmente carecía de medidas de verificación de edad, lo que facilitaba el acceso a contenido dañino. La respuesta de xAI a las acusaciones fue desdeñosa, afirmando que los informes eran “mentiras de los medios heredados”.
Leyes y aplicación de la verificación de edad
La presión legal coincide con la implementación de leyes de verificación de edad en varios estados, que exigen prueba de edad para acceder a pornografía. Sin embargo, la aplicación de la ley se complica por el gran volumen de contenido generado por IA y la dificultad para determinar qué constituye pornografía. Algunos estados, como Luisiana, exigen que más de un tercio del contenido de un sitio se considere explícito antes de que se apliquen restricciones.
Legislación futura y respuesta de la industria tecnológica
Los legisladores estatales ahora están considerando legislación adicional para abordar el CSAM generado por IA. El representante del estado de Arizona, Nick Kupper, propuso un proyecto de ley que exige la verificación de la edad de los artistas en contenido generado por IA, mientras que el líder de la mayoría del Senado de Georgia, Jason Anavitarte, planea introducir una legislación para criminalizar la creación de material sexual generado por IA que involucre a menores.
Pornhub, una importante plataforma de contenido para adultos, se ha bloqueado en muchos estados con leyes de verificación de edad, argumentando que los requisitos son poco prácticos e invasivos. La compañía propone la verificación de edad basada en dispositivos como una posible solución, pero gigantes tecnológicos como Google, Apple y Microsoft aún no han respondido a la sugerencia.
La rápida respuesta regulatoria subraya la creciente alarma sobre el potencial de material de abuso generado por IA y señala una nueva era de escrutinio legal para las empresas de tecnología que no abordan los riesgos de sus propias tecnologías.
