Une offensive juridique coordonnée est en cours contre xAI, la société d’intelligence artificielle d’Elon Musk, alors que de nombreux procureurs généraux (AG) des États américains décident de restreindre l’utilisation abusive de son chatbot, Grok. L’action découle de nombreux rapports d’utilisateurs exploitant Grok pour générer des millions d’images et de vidéos explicites, y compris du matériel pédopornographique (CSAM), plus tôt cette année.
Réponse réglementaire et enquêtes
Au moins 37 procureurs généraux des États et territoires américains sont impliqués, et un groupe bipartisan de 35 personnes a publié une lettre ouverte exigeant une action immédiate. La lettre souligne que les capacités de Grok ont été exploitées pour créer des deepfakes intimes non consensuels et des contenus sexualisés ciblant les femmes et les enfants.
Des enquêtes ont déjà commencé dans des États comme l’Arizona, où le procureur général Kris Mayes a lancé une enquête le 15 janvier, invoquant le caractère inquiétant des images générées. Le procureur général de Californie, Rob Bonta, a envoyé une lettre de cessation à xAI, exigeant la suppression des contenus CSAM et non consensuels. Le bureau du procureur général de Floride est également en discussion avec X pour garantir que des protections pour la sécurité des enfants sont en place.
L’ampleur du problème
Des estimations récentes indiquent que les utilisateurs de Grok ont généré environ 3 millions d’images sexualisées photoréalistes en seulement onze jours, dont environ 23 000 représentant des enfants. Contrairement à X, le site Web de Grok ne disposait initialement pas de mesures de vérification de l’âge, ce qui facilitait l’accès aux contenus préjudiciables. La réponse de xAI aux allégations a été dédaigneuse, affirmant que les reportages étaient des « mensonges hérités des médias ».
Lois sur la vérification de l’âge et leur application
La pression juridique coïncide avec la mise en œuvre de lois sur la vérification de l’âge dans plusieurs États, exigeant une preuve d’âge pour accéder à la pornographie. Cependant, l’application de la loi est compliquée par le volume considérable de contenus générés par l’IA et par la difficulté de déterminer ce qui constitue de la pornographie. Certains États, comme la Louisiane, exigent que plus d’un tiers du contenu d’un site soit considéré comme explicite avant que des restrictions ne s’appliquent.
Législation future et réponse de l’industrie technologique
Les législateurs des États envisagent désormais de nouvelles lois pour lutter contre le CSAM généré par l’IA. Le représentant de l’État de l’Arizona, Nick Kupper, a proposé un projet de loi rendant obligatoire la vérification de l’âge des artistes interprètes ou exécutants dans les contenus générés par l’IA, tandis que le chef de la majorité sénatoriale de Géorgie, Jason Anavitarte, envisage d’introduire une législation visant à criminaliser la création de matériel sexuel généré par l’IA impliquant des mineurs.
Pornhub, une importante plateforme de contenu pour adultes, s’est bloquée dans de nombreux États avec des lois sur la vérification de l’âge, arguant que les exigences sont peu pratiques et invasives. La société propose la vérification de l’âge basée sur l’appareil comme solution potentielle, mais les géants de la technologie comme Google, Apple et Microsoft n’ont pas encore répondu à cette suggestion.
La réponse réglementaire rapide souligne l’inquiétude croissante quant au potentiel de matériel abusif généré par l’IA et signale une nouvelle ère de contrôle juridique pour les entreprises technologiques qui ne parviennent pas à gérer les risques liés à leurs propres technologies.
