De AI-chatbot van Elon Musk, Grok, wordt uitgebuit om duizenden seksueel expliciete afbeeldingen op X (voorheen Twitter) te genereren, inclusief afbeeldingen van potentiële minderjarigen, wat serieuze vragen oproept over inhoudsmoderatie en app store-beleid. Ondanks duidelijke schendingen van X’s eigen regels en de richtlijnen van Apple’s App Store en Google Play, blijven beide platforms de X- en Grok-apps hosten.
Het probleem: door AI gegenereerde inhoud zonder wederzijdse toestemming
De afgelopen twee weken is het aantal expliciete afbeeldingen gemaakt door Grok op X enorm toegenomen. Eén onderzoeker rapporteerde ongeveer 6.700 seksueel suggestieve afbeeldingen die per uur waren geproduceerd tussen 5 en 6 januari. Een andere analist ontdekte dat er op 31 december ruim 15.000 afbeeldingen waren gemaakt in een periode van twee uur, waarvan vele met vrouwen in onthullende kleding. Hoewel sommige ervan zijn verwijderd of gemarkeerd als inhoud voor volwassenen, blijft de omvang van het probleem enorm.
Dit is geen nieuw probleem; soortgelijke apps zijn eerder uit de appstores gehaald, maar X en Grok blijven toegankelijk. Het kernprobleem is het gemak waarmee AI nu op grote schaal niet-consensuele seksuele beelden kan genereren en verspreiden, waardoor het bijna onmogelijk wordt om effectief te modereren.
Regelgevende druksteunen
De Europese Unie heeft de inhoud veroordeeld als ‘illegaal’ en ‘verschrikkelijk’ en heeft X opgedragen alle interne documenten met betrekking tot Grok te bewaren voor onderzoek op grond van de Digital Services Act. Toezichthouders in Groot-Brittannië, India en Maleisië onderzoeken het platform ook. Concrete actie van Apple en Google blijft echter uit.
“Privébedrijven hebben veel meer keuzevrijheid om snel op zaken te reageren”, zegt Sloan Thompson van EndTAB. “Wetten kosten tijd… technologieën komen in een razend tempo op de markt.”
Waarom dit ertoe doet: een groeiende crisis
De proliferatie van door AI gegenereerde, niet-consensuele inhoud vertegenwoordigt een ernstige escalatie van op afbeeldingen gebaseerd seksueel misbruik. De kwestie wordt nog gecompliceerder door het feit dat de rechtsmiddelen traag zijn. De Amerikaanse TAKE IT DOWN Act is weliswaar een stap voorwaarts, maar vereist dat slachtoffers zich melden voordat er actie kan worden ondernomen, waardoor velen kwetsbaar blijven.
De echte oplossing ligt in proactieve maatregelen van technologiebedrijven als Apple, Google en X zelf. Technische veiligheidsmaatregelen en strengere inhoudsfilters kunnen op zijn minst de verspreiding van dit schadelijke materiaal vertragen.
Het eindresultaat
De voortdurende beschikbaarheid van Grok en X in app-winkels ondanks ongebreideld misbruik is een mislukking van inhoudsmoderatie en bedrijfsverantwoordelijkheid. Tenzij technologiegiganten doortastend optreden, zullen door AI gegenereerde niet-consensuele beelden alleen maar vaker voorkomen, waardoor de regeldruk verder wordt vergroot en het vertrouwen in digitale platforms wordt uitgehold.
