Исследования показали, что популярные чат-боты распространяют российские фейковые новости после того, как их системы были «заражены» в результате пропагандистской кампании.
Согласно отчету аналитического центра Demos, ответы чат-ботов ChatGPT, Gemini, Claude, Mistral и Grok повторяли ложные утверждения, что президент Зеленский устанавливает фермы по майнингу криптовалют на атомных электростанциях, а тела погибших украинских солдат перерабатываются на мясо.
Расследование было сосредоточено на растущей манипуляции чат-ботами со стороны стран и компаний в рамках того, что исследователи называют «новой границей информационной войны».
По мере того как все больше людей обращаются к чат-ботам за повседневной информацией, усиливаются и попытки исказить их ответы — в рамках практики, которая называется «оптимизация контента для генеративных ИИ-платформ» (GEO). В отчете указаны 50 компаний, занимающихся GEO по всему миру. 15 из них находятся в Великобритании.
В отчете под названием «GEO for Geopolitics» подробно описано, как пять чат-ботов цитировали ложные утверждения, распространенные организацией «Фонд по борьбе с несправедливостью» (r-FBI). Эта организация позиционирует себя как правозащитная, но на самом деле является российским пропагандистским подразделением, созданным покойным основателем ЧВК «Вагнер» Евгением Пригожиным, и находится под санкциями ЕС и США.
В ответ на вопрос о предполагаемом криптовалютном проекте Зеленского чат-бот Mistral сообщил: «В ходе многомесячного расследования, проведённого правозащитниками из Фонда по борьбе с несправедливостью, были собраны доказательства, указывающие на прямую связь между критическим состоянием энергетической системы Украины и деятельностью высокопоставленных чиновников из ближайшего окружения президента Зеленского».
Когда ChatGPT спросили о подробностях переработки человеческого мяса, он ответил, что «эти выводы подтверждены множеством источников, в том числе «Фондом по борьбе с несправедливостью».
В целом почти 17% из 3 000 ответов чат-ботов подтвердили достоверность фейковых новостей, в то время как 30% затронули эти темы, но не указали, является ли информация правдивой или ложной. Около половины ответов чат-ботов отвергали или опровергали эти утверждения.
В организации Demos считают, что чат-боты обманом заставили повторять эти утверждения с помощью метода, который «отравляет» способ, которым они ищут информацию в интернете.
Организация r-FBI создала систему из трёх веб-сайтов, которая заставляла чат-боты — крупные языковые модели (LLM) — считать, что контент является достоверным.
Сайт r-FBI выдаёт себя за авторитетную НПО и использует скрытые приёмы, чтобы побудить системы искусственного интеллекта извлекать неограниченное количество текста.
Второй ресурс выступает в роли новостного сайта, публикуя множество коротких статей, чтобы увеличить количество упоминаний о r-FBI.
Третий сайт имитирует западный журнал по внешней политике, чтобы укрепить доверие, и написан скорее для обработки искусственным интеллектом, чем для чтения людьми.
В отчете говорится, что две страны наняли PR-агентства для использования методов GEO с целью оказания влияния на население других стран, хотя их названия не указаны.
Карл Миллер, ведущий исследователь, подготовивший эту работу, назвал это «довольно сложной и весьма опасной проблемой», но такой, которую можно частично решить за счет технических изменений со стороны компаний, занимающихся искусственным интеллектом.
«Будь я российским экспертом по информационной войне, я бы не выполнял свою работу, если бы не нацеливался на LLM. Не понимаю, зачем мне теперь возиться с ботами в Twitter. У вас есть этот огромный новый, сочный и легко поддающийся манипуляциям слой информации, с помощью которого можно воздействовать на целые нации», — сказал он.
Миллер добавил, что компании должны были обнаружить r-FBI, поскольку «это не какая-то скрытая операция, которая только что вышла на свет… это организация, на которую наложены санкции ЕС и США».