Эпоха неуклюжих тролль-ферм и утечек электронной почты подходит к концу. Новый доклад предупреждает, что искусственный интеллект готов обрушить на мир беспрецедентные по масштабу и изощренности кампании дезинформации, угрожая основам демократических обществ. Вместо армий людей, распространяющих пропаганду, уже скоро один человек сможет управлять тысячами аккаунтов в социальных сетях, контролируемых ИИ, способных манипулировать общественным мнением в режиме реального времени — без постоянного вмешательства человека.
Эволюция дезинформации
В 2016 году Российское агентство интернет-исследований (IRA) нанимало сотни людей для распространения разжигающего рознь контента в сети. Хотя это широко освещалось, эффект от этих усилий был ограничен по сравнению с более целенаправленными утечками информации. Теперь те же цели можно достичь с экспоненциально большей эффективностью и охватом. Новейшие инструменты ИИ способны генерировать публикации, неотличимые от человеческих, динамически адаптироваться к беседам и поддерживать устойчивую онлайн-идентичность.
Этот сдвиг касается не только автоматизации, но и автономных операций влияния. Эти ИИ-«роя» будут не просто публиковать заранее написанные сообщения; они будут учиться, развиваться и совершенствовать свои тактики на основе обратной связи в реальном времени от социальных сетей и взаимодействия с людьми.
Наука, лежащая в основе угрозы
Новое исследование, опубликованное в журнале Science группой из 22 экспертов в области ИИ, кибербезопасности и социальных наук, подробно описывает этот надвигающийся сдвиг. Исследователи предупреждают, что технология теперь настолько эффективно имитирует человеческую социальную динамику, что может вызвать широкомасштабные изменения в убеждениях, повлиять на выборы и в конечном итоге подорвать демократические процессы.
В докладе говорится: «Достижения в области искусственного интеллекта открывают возможность манипулирования убеждениями и поведением на уровне всего населения».
Лукаш Олейник, старший научный сотрудник Королевского колледжа Лондона, согласен: «Это чрезвычайно сложная среда для демократического общества. Мы в большой беде».
Как будут действовать ИИ-роя
Ключевым фактором является память. В отличие от традиционных ботов, эти ИИ-агенты смогут поддерживать последовательные онлайн-персоны с течением времени. Они будут координировать свои действия для достижения общих целей, при этом выглядя как отдельные пользователи, что значительно усложнит их обнаружение.
Эти системы также будут использовать механизмы социальных сетей:
- Микро-A/B-тестирование: Запуск миллионов вариаций сообщения для выявления наиболее эффективной формулировки.
- Целевое информирование: Адаптация контента к убеждениям и культурным сигналам конкретных сообществ для максимального воздействия.
- Самосовершенствование: Использование ответов пользователей для улучшения своих тактик в реальном времени.
«Что, если ИИ не просто выдаёт ложную информацию, а тысячи чат-ботов, работающих вместе, создают видимость народной поддержки там, где её нет?» — спрашивает Нина Янкович, генеральный директор American Sunlight Project.
Отсутствие защиты
Современные методы обнаружения уже терпят неудачу. Социальные сети всё более ограничивают обмен данными, что делает невозможным полную оценку масштабов этой угрозы. Эксперты считают, что эта тактика уже тестируется, и, вероятно, будет развернута на президентских выборах 2028 года.
Проблема не только в технологиях, но и в структуре. Социальные сети ставят во главу угла вовлечение, а не правду, поэтому у них мало стимулов для выявления или удаления ИИ-роев. Правительства также не проявляют политической воли для вмешательства.
Предлагаемое решение
В докладе предлагается создать «Наблюдательный центр влияния ИИ», состоящий из учёных и НПО, для стандартизации доказательств, повышения ситуационной осведомлённости и координации быстрого реагирования. Исследование явно исключает руководителей социальных сетей, поскольку их бизнес-модели стимулируют дезинформацию.
Однако даже этот подход вряд ли будет достаточным. Скорость и масштаб дезинформации, управляемой ИИ, вскоре опередят любые оборонительные меры.
Подъём ИИ-роев — это не отдалённая угроза, а разворачивающаяся реальность. Если не будут предприняты радикальные действия, будущее демократии может зависеть от того, сможет ли человечество распознать и сопротивляться манипуляциям на скорости машины.
