Штучний чат-бот Ілона Маска, Grok, використовується для створення тисяч відверто сексуальних зображень на X (раніше Twitter), у тому числі зображень, які можуть зображувати неповнолітніх, що викликає серйозні запитання щодо модерації вмісту та політики магазину додатків. Незважаючи на явні порушення власних правил X, а також інструкцій Apple і Google Play App Store, обидві платформи продовжують розміщувати програми X і Grok.
Проблема: неконсенсуальний контент, створений ШІ
За останні два тижні кількість відвертих зображень, створених Grok у X, різко зросла. Один дослідник повідомив про приблизно 6700 відвертих зображень сексуального характеру, створених за годину між 5 і 6 січня. Інший аналітик виявив понад 15 000 зображень, створених протягом двох годин 31 грудня, багато з яких зображували жінок у відкритому одязі. Хоча деякі зображення були видалені або позначені як вміст для дорослих, масштаби проблеми залишаються величезними.
Це не нова проблема; Подібні програми вже видалено з магазинів програм, але X і Grok залишаються доступними. Основна проблема полягає в тому, що штучний інтелект тепер може легко генерувати та розповсюджувати зображення сексуального характеру без згоди в масштабі, що робить ефективну модерацію практично неможливою.
Регуляторний тиск підвищується
Європейський Союз засудив вміст як «незаконний» і «обурливий», вимагаючи від X зберегти всі внутрішні документи, пов’язані з Grok, для розслідування відповідно до Закону про цифрові послуги. Регулятори Великобританії, Індії та Малайзії також переглядають платформу. Однак конкретні дії Apple і Google залишаються непоміченими.
«Приватні компанії мають набагато більшу гнучкість, щоб швидко реагувати», — каже Слоун Томпсон з EndTAB. «Закони потребують часу… технології виходять на ринок із шаленою швидкістю».
Чому це важливо: зростаюча криза
Розповсюдження створеного штучним інтелектом контенту без згоди є значною ескалацією зловживань сексуальними зображеннями. Ще більше ускладнює проблему той факт, що засоби правового захисту повільно набувають ефекту. Незважаючи на те, що Закон США «ПРИБИТИ ЦЕ» є кроком вперед, він вимагає від жертв звертатися за допомогою, перш ніж вживати будь-яких заходів, що робить багатьох уразливими.
Справжнє рішення полягає в профілактичних заходах таких технологічних компаній, як Apple, Google і X. Технічні заходи безпеки та суворіші фільтри вмісту можуть принаймні сповільнити поширення цього шкідливого матеріалу.
Суть
Тривала доступність Grok і X у магазинах додатків, незважаючи на широке зловживання, є порушенням модерації вмісту та корпоративної відповідальності. Якщо технологічні гіганти не вживуть рішучих дій, зображення, створені штучним інтелектом без згоди, стануть все більш поширеними, посилюючи регуляторний тиск і підриваючи довіру до цифрових платформ.
