Er is een gecoördineerd juridisch offensief aan de gang tegen xAI, het kunstmatige-intelligentiebedrijf van Elon Musk, nu talloze Amerikaanse procureurs-generaal (AG’s) actie ondernemen om het misbruik van hun chatbot, Grok, aan banden te leggen. De actie komt voort uit wijdverbreide berichten over gebruikers die Grok uitbuiten om miljoenen expliciet materiaal, waaronder materiaal over seksueel misbruik van kinderen (CSAM), afbeeldingen en video’s eerder dit jaar te genereren.
Reacties en onderzoeken van regelgeving
Minstens 37 Amerikaanse staats- en territoriale procureurs-generaal zijn erbij betrokken, waarbij een tweeledige groep van 35 een open brief publiceert waarin onmiddellijke actie wordt geëist. In de brief wordt benadrukt dat de capaciteiten van Grok zijn uitgebuit om niet-consensuele intieme deepfakes en geseksualiseerde inhoud te creëren die gericht is op vrouwen en kinderen.
Onderzoeken zijn al begonnen in staten als Arizona, waar procureur-generaal Kris Mayes op 15 januari een onderzoek lanceerde, daarbij verwijzend naar de verontrustende aard van de gegenereerde beelden. De procureur-generaal van Californië, Rob Bonta, stuurde een staakt-het-en-ophouden-brief naar xAI, waarin hij de verwijdering van CSAM en niet-consensuele inhoud eiste. Het kantoor van de procureur-generaal van Florida is ook in gesprek met X om ervoor te zorgen dat de veiligheid van kinderen wordt gewaarborgd.
De omvang van het probleem
Recente schattingen geven aan dat Grok-gebruikers in slechts elf dagen ongeveer 3 miljoen fotorealistische geseksualiseerde afbeeldingen hebben gegenereerd, waaronder ongeveer 23.000 met afbeeldingen van kinderen. In tegenstelling tot X ontbrak het op de website van Grok aanvankelijk aan maatregelen voor leeftijdsverificatie, waardoor het gemakkelijker werd om toegang te krijgen tot schadelijke inhoud. Het antwoord van xAI op de beschuldigingen was afwijzend en beweerde dat de berichtgeving “Legacy Media Lies” was.
Wetten en handhaving van leeftijdsverificatie
De juridische druk valt samen met de implementatie van leeftijdsverificatiewetten in verschillende staten, waarbij bewijs van leeftijd vereist is voor toegang tot pornografie. De handhaving wordt echter bemoeilijkt door de enorme hoeveelheid door AI gegenereerde inhoud en de moeilijkheid om te bepalen wat pornografie is. Sommige staten, zoals Louisiana, vereisen dat meer dan een derde van de inhoud van een site als expliciet wordt beschouwd voordat er beperkingen van toepassing zijn.
Toekomstige wetgeving en reactie van de technische industrie
Staatswetgevers overwegen nu verdere wetgeving om door AI gegenereerde CSAM aan te pakken. De staatsvertegenwoordiger van Arizona, Nick Kupper, heeft een wetsvoorstel ingediend dat leeftijdsverificatie verplicht stelt voor artiesten in door AI gegenereerde inhoud, terwijl de meerderheidsleider van de Georgische senaat, Jason Anavitarte, van plan is wetgeving in te voeren om de creatie van door AI gegenereerd seksueel materiaal waarbij minderjarigen betrokken zijn, strafbaar te stellen.
Pornhub, een groot platform voor inhoud voor volwassenen, heeft zichzelf in veel staten geblokkeerd met wetten voor leeftijdsverificatie, met het argument dat de vereisten onpraktisch en invasief zijn. Het bedrijf stelt apparaatgebaseerde leeftijdsverificatie voor als een mogelijke oplossing, maar technologiegiganten als Google, Apple en Microsoft moeten nog op de suggestie reageren.
De snelle reactie van de toezichthouders onderstreept de groeiende bezorgdheid over het potentieel voor door AI gegenereerd misbruikmateriaal, en luidt een nieuw tijdperk in van juridisch toezicht op technologiebedrijven die er niet in slagen de risico’s van hun eigen technologieën aan te pakken.
