OpenAI разоблачила сети пропаганды РФ и Ирана в ChatGPT: детали блокировки

История началась с тщательного анализа деятельности в экосистеме ChatGPT, когда эксперты OpenAI заметили подозрительную активность. Они обнаружили, что учетные записи, управляемые сетями влияния, использовали возможности искусственного интеллекта для создания обширных статей и комментариев, направленных на формирование определенных нарративов.

Иранская операция разворачивалась через семь профилей, владельцы которых искусно выдавали себя за западных журналистов, в частности из США. Благодаря этим вымышленным образам они размещали большие по объему материалы в медиа по всему миру, пытаясь повлиять на общественное мнение.

Компания OpenAI обнаружила около 100 таких статей, опубликованных или перепечатанных примерно в 12 онлайн-изданиях. Эти медиа, преимущественно небольшие и средние, фокусировались на международных отношениях, геополитике и событиях на Ближнем Востоке. Интересно, что самая ранняя публикация датируется июлем 2025 года, а самая новая — октябрем 2026 года, причем частота материалов возросла после начала войны между США и Ираном.

Одним из самых ярких вымышленных персонажей был Эрвин Б. Хоскинс, который позиционировал себя как американский внештатный автор. У него были активные учетные записи на различных технологических платформах, включая X и Instagram. Анализ прозрачности этих платформ указал на связь аккаунта в X с приложением для Android в Западной Азии, а Instagram — на пребывание в Иране, что разоблачило его истинное происхождение.

Параллельно с этим, российская сеть привлекала людей в Латинской Америке к деятельности так называемого аналитического центра Social Research Center (SRC). Этот центр использовался для скрытых операций, направленных на подрыв репутации Украины в регионе и влияние на местную политику. Оказалось, что сотрудники SRC в Латинской Америке не знали, что работают на российскую группу, что делает эту операцию одной из самых сложных попыток создания подставных организаций, которой OpenAI противодействовала за последние два с половиной года.

На момент публикации материалов, учетные записи, такие как те, что принадлежали Эрвину Б. Хоскинсу, вероятно, уже были заблокированы. OpenAI решительно предприняла меры для блокировки этих сетей влияния, что свидетельствует о растущей борьбе с дезинформацией в цифровую эпоху.

Компания OpenAI заявила, что заблокировала группы учетных записей ChatGPT, которые использовались для поддержки подставных организаций и скрытого распространения материалов на геополитические темы и о международных конфликтах. Это разоблачение подчеркивает растущую угрозу использования инструментов искусственного интеллекта для ведения информационных войн.

По данным France 24., иранская и российская операции являются примерами того, как искусственный интеллект может быть использован для манипуляций, создавая фальшивые образы и распространяя пропаганду, что требует постоянного совершенствования методов выявления и противодействия со стороны технологических компаний.

Эти события являются важным напоминанием о том, что технологический прогресс всегда сопровождается вызовами, особенно когда речь идет об информационной безопасности. Будущее требует бдительности и совместных усилий для защиты цифрового пространства от скрытых манипуляций.