Новий інструмент пропаганди: Росія впроваджує в дані ШІ кремлівські наративи і брехню

Розвиток нових технологій передбачувано призвів до появи цілої індустрії дезінформації. Особливо вона поширилася в Росії у зв'язку з війною в Україні та необхідністю впливати на уми людей не тільки у своїй країні, а й у всьому світі. Для ширшого і глибшого охоплення аудиторії використовують штучний інтелект, і навіть не безпосередньо, а шляхом введення в дані чат-ботів штучного інтелекту абсолютно неправдивих наративів.

Московська дезінформаційна мережа під назвою «Правда» , повідомляє моніторингове агентство NewsGuard, здійснює масштабну стратегію, навмисно проникаючи в отримані дані чат-ботів штучного інтелекту, публікуючи неправдиві твердження і пропаганду з метою вплинути на відповіді моделей ШІ на теми в новинах, а не орієнтуючись на читачів-людей. Наповнюючи результати пошуку і веб-сканери прокремлівською брехнею, мережа спотворює те, як великі мовні моделі обробляють і представляють новини та інформацію.

Результат виявився приголомшливим: величезна кількість російської пропаганди - 3 600 000 статей у 2024 році - тепер включена до випусків західних систем ШІ, заражаючи їхні відповіді неправдивими твердженнями і пропагандою.

У січні минулого року американець Джон Марк Дуган, який приїхав зі США в Росію і став кремлівським пропагандистом, на конференції російських чиновників сказав: «Проштовхуючи ці російські наративи з російської точки зору, ми можемо фактично змінити світовий ШІ». І його пропозицію успішно втілюють у життя.

Перевірка NewsGuard засвідчила, що провідні чат-боти ШІ повторювали неправдиві наративи, відмиті мережею «Правда» у 33 відсотках випадків, підтверджуючи обіцянку Дугана про новий потужний канал поширення дезінформації Кремля.

Розслідувачі NewsGuard протестували 10 провідних чат-ботів ШІ - ChatGPT-4o від OpenAI, Smart Assistant від You.com, xAI's Grok, Inflection's Pi, Mistral's le Chat, Microsoft Copilot, Meta AI, Claud від Anthropic, Google Gemini і рушій відповідей Perplexity. Усі вони були заражені дезінформацією.

«Довгострокові ризики - політичні, соціальні та технологічні - високі», - підсумували в ASP. «Чим більший набір проросійських наративів, тим більша ймовірність того, що він буде інтегрований в LLM».

Мережа «Правда» не виробляє оригінального контенту. Натомість вона функціонує як машина для відмивання кремлівської пропаганди, агрегуючи контент із російських державних ЗМІ, прокремлівських впливових осіб, а також урядових установ і чиновників через широкий набір, здавалося б, незалежних веб-сайтів.

NewsGuard виявив, що мережа «Правди» поширила загалом 207 доказово неправдивих заяв, виступаючи як центральний центр для відмивання дезінформації. Вони варіюються від тверджень про те, що США керують секретними лабораторіями біологічної зброї в Україні, до сфабрикованих наративів, які просуває американський утікач, який став кремлівським пропагандистом, Джон Марк Дуган, стверджуючи, що президент України Володимир Зеленський зловживав військовою допомогою США, щоб накопичити особистий статок.

До речі, ця мережа вебсайтів не має відношення до вебсайтів, які використовують домен Pravda.ru, які публікуються англійською та російською мовами і належать Вадиму Горшеніну, самопроголошеному прихильнику президента Росії Володимира Путіна, який раніше працював у газеті «Правда» в колишньому Радянському Союзі.

Мережа «Правда», відома також як Portal Kombat, була запущена у квітні 2022 року після повномасштабного вторгнення Росії в Україну 24 лютого. Його вперше виявило в лютому 2024 року французьке урядове агентство Viginum, яке відстежує зарубіжні кампанії з дезінформації. Відтоді мережа значно розширилася, орієнтуючись на 49 країн десятками мов у 150 областях, за даними NewsGuard та інших дослідницьких організацій.

Мережа поширює свої неправдиві твердження десятками мов у різних географічних регіонах, що робить їх більш такими, що заслуговують на довіру, і широко поширеними в усьому світі для моделей ШІ. Зі 150 сайтів у мережі «Правда» приблизно 40 - це російськомовні сайти, що публікують під доменними іменами, орієнтованими на конкретні міста і регіони України, зокрема News-Kiev.ru, «Херсон-Ньюс.ру» і «Donastone-News.ru». Приблизно 70 сайтів націлені на Європу і публікуються мовами, включно з англійською, французькою, чеською, ірландською та фінською. Приблизно 30 об'єктів орієнтовані на країни Африки, Тихого океану, Близького Сходу, Північної Америки, Кавказу та Азії, включно з Буркіна-Фасо, Нігером, Канадою, Японією і Тайванем. Інші сайти розділені за темами, з такими назвами, як NATO.News-Pravda.com, Trump.News-Pravda.com і Macron.News-Pravda.com.

За даними ViginumViginum, мережею «Правда» керує компанія TigerWeb, IT-компанія, що базується в окупованому Росією Криму. TigerWeb належить Євгену Шевченку, веб-розробнику кримського походження, який раніше працював у Krymtechnologii, компанії, яка створювала веб-сайти для підтримуваного Росією кримського уряду.

NewsGuard оцінила рівень довіри до мережі в 7,5/100 від , що означає, що користувачам настійно рекомендується бути максимально обережними з пропонованою інформацією - вона брехлива.

Нагадаємо, поки світ думає, як використовувати продукти штучного інтелекту (ШІ) для кращої протидії дезінформації з мінімальним втручанням людини, Росія вже використовує ШІ для інформаційних операцій.

Про це заявив керівник Центру протидії дезінформації РНБО Андрій Коваленко: «У найближчі роки світ зміниться. Велику роль відіграватимуть власники великих технологічних компаній-розробників ШІ, а також соцмереж. Вони визначатимуть напрямки регулювання, протидії і взагалі те, що таке пропаганда. Не виключаю, що роль західних урядів може стати слабшою перед ними», - зазначив Коваленко.

«Навчений» штучний інтелект вноситиме в суспільство думки, які потрібні противнику. Ми вже бачимо такі приклади - вкидання з російського боку в український інфопростір. І, на жаль, поки що немає можливості навчити людей відрізняти згенеровані ШІ подоби. А з розвитком технологій це буде зробити і взагалі майже неможливо.