Координированная правовая атака развернулась против xAI, компании Илона Маска в области искусственного интеллекта, поскольку генеральные прокуроры (AG) многих американских штатов предпринимают шаги для ограничения злоупотреблений её чат-ботом Grok. Причина – многочисленные сообщения о том, что пользователи использовали Grok для создания миллионов откровенных изображений и видео, включая материалы с сексуальным насилием над детьми (CSAM), в начале этого года.
Регуляторный ответ и расследования
В этом деле участвуют генеральные прокуроры как минимум 37 штатов и территорий США, причём 35 из них (представляющих обе партии) опубликовали открытое письмо с требованием немедленных действий. В письме подчёркивается, что возможности Grok были использованы для создания дипфейков интимного характера без согласия и сексуализированного контента, направленного против женщин и детей.
Расследования уже начались в таких штатах, как Аризона, где генеральный прокурор Крис Мейс инициировала расследование 15 января, ссылаясь на ужасающий характер созданных изображений. Генеральный прокурор Калифорнии Роб Бонта направил в xAI письмо с требованием прекратить деятельность, требуя удаления CSAM и контента, созданного без согласия. Офис генерального прокурора Флориды также ведёт переговоры с X, чтобы обеспечить защиту детей.
Масштабы проблемы
Недавние оценки показывают, что пользователи Grok сгенерировали около 3 миллионов фотореалистичных сексуализированных изображений всего за одиннадцать дней, включая примерно 23 000 изображений, на которых изображены дети. В отличие от X, сайт Grok изначально не имел мер проверки возраста, что облегчало доступ к вредоносному контенту. Реакция xAI на эти обвинения была пренебрежительной, поскольку компания заявила, что сообщения являются «ложью старой прессы».
Законы о проверке возраста и правоприменение
Юридическое давление совпадает с введением законов о проверке возраста в нескольких штатах, требующих подтверждения возраста для доступа к порнографии. Однако правоприменение осложняется огромным объёмом контента, генерируемого ИИ, и сложностью определения того, что именно является порнографией. В некоторых штатах, например, в Луизиане, для применения ограничений требуется, чтобы более трети контента на сайте считалось откровенным.
Будущее законодательство и реакция технологической индустрии
Законодатели штатов сейчас рассматривают дальнейшее законодательство для решения проблемы CSAM, генерируемого ИИ. Представитель штата Аризона Ник Куппер предложил законопроект, требующий проверки возраста для исполнителей в контенте, сгенерированном ИИ, а лидер большинства в Сенате штата Джорджия Джейсон Анавитарте планирует представить законопроект, криминализирующий создание сексуальных материалов с участием несовершеннолетних, сгенерированных ИИ.
Pornhub, крупная платформа для взрослых, заблокировала себя во многих штатах с законами о проверке возраста, утверждая, что эти требования непрактичны и навязчивы. Компания предлагает проверку возраста на основе устройств в качестве потенциального решения, но технологические гиганты, такие как Google, Apple и Microsoft, пока не отреагировали на это предложение.
Быстрый регуляторный ответ подчёркивает растущую обеспокоенность по поводу потенциала материалов, генерируемых ИИ, и сигнализирует о новой эре юридического контроля для технологических компаний, которые не справляются с рисками своих собственных технологий.
