Скоординована юридична атака розпочалася проти компанії штучного інтелекту Ілона Маска xAI, оскільки кілька генеральних прокурорів штату США (AG) вживають заходів для припинення зловживань її чат-ботом Grok. Причиною є численні повідомлення про те, що на початку цього року користувачі використовували Grok для створення мільйонів відвертих зображень і відео, включаючи матеріали сексуального насильства над дітьми (CSAM).
Регуляторна реакція та розслідування
У цій справі беруть участь генеральні прокурори щонайменше 37 штатів і територій США, 35 з них (представляючі обидві сторони) опублікували відкритого листа з вимогою негайно вжити заходів. У листі наголошується, що можливості Grok були використані для створення дипфейків інтимного, примусового та сексуального контенту, націленого на жінок і дітей.
Розслідування вже почалися в таких штатах, як Арізона, де генеральний прокурор Кріс Мейс розпочав розслідування 15 січня, посилаючись на жахливий характер створених зображень. Генеральний прокурор Каліфорнії Роб Бонта надіслав лист про припинення та відмову від xAI, вимагаючи видалити CSAM та контент, створений без згоди. Офіс генерального прокурора Флориди також веде переговори з X, щоб забезпечити захист дітей.
Масштаб проблеми
Останні оцінки показують, що користувачі Grok створили приблизно 3 мільйони фотореалістичних сексуальних зображень лише за одинадцять днів, включаючи приблизно 23 000 зображень із зображенням дітей. На відміну від X, сайт Grok спочатку не мав засобів перевірки віку, що полегшувало доступ до шкідливого вмісту. Відповідь xAI на звинувачення була зневажливою, і компанія заявила, що звіти були «старою брехнею преси».
Закони про перевірку віку та правозастосування
Правовий тиск збігається із запровадженням законів про перевірку віку в кількох штатах, які вимагають підтвердження віку для доступу до порнографії. Однак правозастосування ускладнюється величезним обсягом контенту, створеного штучним інтелектом, і труднощами визначення того, що саме є порнографією. Деякі штати, наприклад Луїзіана, вимагають, щоб більше третини вмісту сайту вважалося відвертим для застосування обмежень.
Майбутнє законодавство та відповідь індустрії технологій
Зараз законодавці штату розглядають додаткове законодавство для вирішення проблеми сексуального насильства, створеного штучним інтелектом. Представник від Арізони Нік Купер запропонував законодавство, яке вимагає перевірки віку для виконавців у створеному штучним інтелектом контенті, а лідер більшості в Сенаті Джорджії Джейсон Анавітарте планує запровадити законодавство, яке криміналізуватиме створення сексуального контенту штучного інтелекту за участю неповнолітніх.
Pornhub, основна платформа для дорослих, заблокувала себе від багатьох штатів законами про перевірку віку, стверджуючи, що вимоги є непрактичними та нав’язливими. Компанія запропонувала перевірку віку на основі пристрою як потенційне рішення, але технологічні гіганти, такі як Google, Apple і Microsoft, поки не відповіли на цю пропозицію.
Швидка регуляторна реакція підкреслює зростаючу стурбованість щодо потенціалу створеного штучним інтелектом контенту та сигналізує про нову еру правового контролю для технологічних компаній, які не в змозі керувати ризиками власних технологій.
