Rozpoczął się skoordynowany atak prawny na należącą do Elona Muska firmę xAI zajmującą się sztuczną inteligencją, w związku z tym, że wielu prokuratorów generalnych stanu USA (AG) podejmuje kroki w celu ograniczenia nadużyć związanych z jej chatbotem Grok. Powodem są liczne raporty użytkowników, którzy na początku tego roku używali Groka do tworzenia milionów obrazów i filmów dla dorosłych, w tym materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM).
Reakcje regulacyjne i dochodzenia
W sprawę zaangażowani są prokuratorzy generalni z co najmniej 37 stanów i terytoriów USA, z czego 35 (reprezentujących obie strony) opublikowało list otwarty żądający natychmiastowych działań. W piśmie podkreślono, że możliwości Groka wykorzystano do tworzenia fałszywych treści zawierających treści intymne, dokonywane bez zgody i treści o charakterze seksualnym, skierowanych do kobiet i dzieci.
Dochodzenia rozpoczęły się już w stanach takich jak Arizona, gdzie 15 stycznia prokurator generalny Chris Mace wszczął dochodzenie, powołując się na przerażający charakter stworzonych obrazów. Prokurator generalny Kalifornii Rob Bonta wysłał pismo o zaprzestaniu działalności do xAI, żądając usunięcia CSAM i treści utworzonych bez zgody. Biuro Prokuratora Generalnego Florydy również prowadzi negocjacje z X, aby zapewnić dzieciom ochronę.
Zakres problemu
Najnowsze szacunki wskazują, że użytkownicy Groka wygenerowali około 3 miliony fotorealistycznych obrazów o charakterze seksualnym w ciągu zaledwie jedenastu dni, w tym około 23 000 obrazów przedstawiających dzieci. W przeciwieństwie do X, witryna Grok początkowo nie posiadała mechanizmów weryfikacji wieku, co ułatwiało dostęp do złośliwych treści. Odpowiedź xAI na zarzuty była lekceważąca, a firma stwierdziła, że doniesienia są „starymi kłamstwami prasowymi”.
Przepisy dotyczące weryfikacji wieku i ich egzekwowanie
Presja prawna zbiega się z wprowadzeniem w kilku stanach przepisów dotyczących weryfikacji wieku, wymagających przedstawienia dowodu wieku w celu uzyskania dostępu do materiałów pornograficznych. Egzekwowanie przepisów komplikuje jednak sama ilość treści generowanych przez sztuczną inteligencję i trudność w ustaleniu, co dokładnie stanowi pornografię. Niektóre stany, takie jak Luizjana, wymagają, aby ponad jedna trzecia treści w witrynie była traktowana jako jawna, aby można było zastosować ograniczenia.
Przyszłe ustawodawstwo i reakcja branży technologicznej
Ustawodawcy stanowi rozważają obecnie wprowadzenie dalszych przepisów prawnych mających na celu rozwiązanie problemu CSAM generowanego przez sztuczną inteligencję. Przedstawiciel Arizony Nick Cooper zaproponował przepisy wymagające weryfikacji wieku wykonawców w treściach generowanych przez sztuczną inteligencję, a przywódca większości w Senacie Gruzji Jason Anavitarte planuje wprowadzić przepisy kryminalizujące tworzenie treści o charakterze seksualnym generowanych przez sztuczną inteligencję z udziałem nieletnich.
Pornhub, główna platforma dla dorosłych, zablokowała dostęp do wielu stanów przepisami dotyczącymi weryfikacji wieku, argumentując, że te wymagania są niepraktyczne i natrętne. Firma zaproponowała weryfikację wieku na podstawie urządzenia jako potencjalne rozwiązanie, ale giganci technologiczni, tacy jak Google, Apple i Microsoft, nie odpowiedzieli jeszcze na tę propozycję.
Szybka reakcja regulacyjna podkreśla rosnące obawy co do potencjału treści generowanych przez sztuczną inteligencję i sygnalizuje nową erę kontroli prawnej dla firm technologicznych, które nie zarządzają ryzykiem związanym z własnymi technologiami.
