ИИ под прицелом РФ. Российская сеть "Правда" и глобальная дезинформация

Российская пропаганда атакует искусственный интеллект — целая сеть под названием "Правда" плодит миллионы фейков, загрязняя информпространство, предупреждает журналист-международник Ольга Токарюк. Она объясняет, как это работает, и призывает украинцев к информационной гигиене

Знали ли вы, что Россия умышленно тренирует модели искусственного интеллекта, такие как Chat GPT, на своей пропаганде?

Я догадывалась, но недавно узнала детали. Оказывается, с 2022 года Россия развила глобальную сеть сайтов на разных языках, так называемую сеть "Правда" (Pravda network), большинство из которых имеют в своем интернет-адресе слово "pravda".

Этих сайтов более 150 (40 из них таргетируют Украину), они администрируются из оккупированного Крыма. Все они не производят никакого оригинального контента, а содержат репосты на разных языках новостей из российских или пророссийских телеграмм-каналов, российских государственных "медиа" и других связанных с Кремлем помоек — в том числе локальных, в других странах. Главные темы новостей — Украина, упадок Запада, НАТО и другие типичные пропагандистские нарративы России. Причем обновляются эти сайты с поразительной скоростью. Эксперты подсчитали, что только за 2024 год сайты сети "Правда" распространили 3,6 миллиона статей. В то же время аудитория этих сайтов незначительна, поэтому возникает вопрос — для кого российская сеть производит это нереальное количество контента?

Важно Квинтэссенция лженауки: ИИ ошибается с ответами в 60% случаев, выяснили ученые

Исследователи нескольких организаций, которые занимаются изучением российских информационных операций — NewsGuard, Viginum, DFRLab и American Sunlight Project — пришли к выводу, что целью сети "Правда" является тренировка веб-скреперов, больших языковых моделей и генеративного искусственного интеллекта. Простыми словами, все это огромное количество российской пропаганды на разных языках создается и распространяется для того, чтобы популярные системы ИИ, такие как Chat GPT, Claude, Perplexity, Copilot, учились на этой (дез)информации и выдавали ее в своих результатах. Исследование News Guard на примере 10 крупнейших ИИ компаний, которым "скормили" промпты с 15 нарративами российской пропаганды, показало, что в трети случаев чат-боты подтвердили этот контент и ссылались на сеть "Правды" как на достоверный источник.

Сайты сети "Правда" также все чаще выплывают при поиске в гугле. На них ссылаются многие страницы в Википедии. Таким образом, благодаря им и ИИ, которым многие люди доверяют в поиске информации, нарративы российской пропаганды "отмываются" и попадают в мейнстримное информационное поле.

Какие выводы?

Быть чрезвычайно внимательными и не доверять информации, которую выдает ИИ.
Помнить, что Гугл и Википедия также легко поддаются российским информационным воздействиям.
Украинцам — иметь в виду, что сайты, которые начинаются с uanews, topnews — это часть российской пропагандистской сети "Правда", отписать себя и родственников от их телеграмм-каналов.

Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные данные в рубрике "Мнения" несет автор.