Koordinovaný právní útok proti společnosti xAI Elona Muska zaměřené na umělou inteligenci, když několik amerických státních zástupců (AG) podniklo kroky k omezení zneužívání jejího chatbota Groka. Důvodem jsou četné zprávy o uživatelích, kteří používali Grok k vytvoření milionů explicitních obrázků a videí, včetně materiálů pro sexuální zneužívání dětí (CSAM), na začátku tohoto roku.
Regulační reakce a vyšetřování
Případ se týká generálních prokurátorů z nejméně 37 států a území USA, přičemž 35 z nich (zastupující obě strany) zveřejnilo otevřený dopis požadující okamžitou akci. Dopis zdůrazňuje, že schopnosti společnosti Grok byly použity k vytvoření hlubokých fake intimního, nekonsensuálního obsahu a sexuálního obsahu zaměřeného na ženy a děti.
Vyšetřování již začalo ve státech, jako je Arizona, kde generální prokurátor Chris Mace zahájil vyšetřování 15. ledna s odvoláním na děsivou povahu vytvořených snímků. Generální prokurátor státu Kalifornie Rob Bonta zaslal společnosti xAI dopis o zastavení a upuštění, v němž požadoval odstranění obsahu CSAM a obsahu vytvořeného bez souhlasu. Kancelář generálního prokurátora na Floridě také vyjednává s X, aby zajistila ochranu dětí.
Rozsah problému
Nedávné odhady naznačují, že uživatelé Groku vygenerovali přibližně 3 miliony fotorealistických sexualizovaných obrázků za pouhých jedenáct dní, včetně přibližně 23 000 obrázků zobrazujících děti. Na rozdíl od X neměl web Grok zpočátku opatření pro ověřování věku, což usnadňovalo přístup ke škodlivému obsahu. Reakce xAI na obvinění byla odmítavá, přičemž společnost uvedla, že zprávy byly „staré tiskové lži“.
Zákony a vymáhání práva na ověřování věku
Právní tlak se shoduje se zavedením zákonů o ověřování věku v několika státech, které vyžadují prokázání věku pro přístup k pornografii. Prosazování však komplikuje naprostý objem obsahu generovaného umělou inteligencí a obtížnost určit, co přesně tvoří pornografii. Některé státy, jako je Louisiana, vyžadují, aby více než třetina obsahu na webu byla považována za explicitní, aby mohla platit omezení.
Budoucí legislativa a reakce technologického průmyslu
Státní zákonodárci nyní zvažují další právní předpisy, které by řešily problém CSAM generovaného umělou inteligencí. Zástupce Arizony Nick Cooper navrhl legislativu vyžadující ověření věku pro umělce v obsahu generovaném umělou inteligencí a vůdce většiny senátu v Georgii Jason Anavitarte plánuje zavést legislativu, která bude kriminalizovat vytváření sexuálního obsahu generovaného umělou inteligencí zahrnující nezletilé.
Pornhub, hlavní platforma pro dospělé, se zablokovala v mnoha státech zákony o ověřování věku s argumentem, že požadavky jsou nepraktické a rušivé. Společnost jako potenciální řešení navrhla ověření věku na základě zařízení, ale tech giganti jako Google, Apple a Microsoft na návrh zatím nereagovali.
Rychlá regulační reakce podtrhuje rostoucí obavy z potenciálu obsahu generovaného umělou inteligencí a signalizuje novou éru právní kontroly pro technologické společnosti, které nedokážou řídit rizika svých vlastních technologií.
