/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F434%2F5c7c556394a37ccd387bcd41e66c013c.png)
Іранські фейки, що створені ШІ, ативно публікуються в американських інтернет-виданнях
«Цей законопроект діятиме для американців і після самих бойових дій», – попереджалося минулого місяця про війну в Ірані в статті Port St. Joe Star, крихітній флоридській тижневиці.
Стаття була опублікована під псевдонімом Ервін Госкінс, який також з'являвся у статтях з критикою війни у великих виданнях, включаючи Daily Kos та Middle East Monitor, які разом мають понад 3 мільйони підписників у Facebook .
Але розробник ChatGPT OpenAI заявив, що нібито робота Хоскінса була створена за допомогою його чат-бота користувачами з Ірану в рамках «кампанії впливу». За словами компанії, кампанія розмістила близько 100 фейкових статей щонайменше у 20 новинних виданнях.
Авторське фото в колонці Хоскінса, опублікованій газетою Star, було створено за допомогою інструментів штучного інтелекту OpenAI, згідно з онлайн-інструментом перевірки компанії.
Оскільки інструменти штучного інтелекту стали потужнішими, деякі новинні видання були змушені видаляти контент, створений штучним інтелектом, опублікований під фальшивими підписами, який спочатку не помітили редактори. Business Insider та Wired минулого року видалили серію статей , що з’являлися під підписом Марго Бланшар і, ймовірно, були створені штучним інтелектом.
Але хоча було неясно, хто або що стояло за історіями, написаними Бланшаром та деякими іншими, очевидно, фальшивими персонажами, OpenAI у четверговому звіті про використання ChatGPT у кампаніях політичного впливу заявила, що Хоскінс була частиною операції, спрямованої на поширення контенту про військові дії США в Ірані. Багато статей висвітлювали негативний вплив війни на американців.
OpenAI заявила, що ім'я Хоскінса було серед семи підписів, що з'явилися в серії статей, створених штучним інтелектом, написаних користувачами, які надсилали інструкції чат-боту перською мовою. За словами компанії, операції, ймовірно, проводилися комерційною організацією як «кампанія впливу за наймом».
Девід Адлерштейн, видавець газети Port St. Joe Star, у своєму електронному листі написав, що колонка Хоскінса привернула його увагу після того, як її йому запропонував PeaceVoice, невеликий ліберальний аналітичний центр в Орегоні, який надсилав контент до Star «роками». Населення округу Галф, де розташований Порт-Сент-Джо, становить близько 15 000 осіб.
«Оскільки ми живемо в дуже червоній частині Флориди, я зазвичай не веду колонки для PeaceVoice, але ця вразила мене тим, що спонукала до роздумів, а не являла собою різку атаку на пана Трампа, що було б проблематично для більшої частини нашої читацької аудиторії», – сказав Адлерштейн. Через свої існуючі стосунки з PeaceVoice він не відчував потреби перевіряти походження колонки чи особу автора, сказав він.
Том Гастінгс, директор-засновник PeaceVoice, заявив, що організація посилила свою існуючу політику заборони штучного інтелекту після того, як OpenAI зв’язалася з ним.
OpenAI заявила, що заблокувала облікові записи, що стоять за цією кампанією, та блокує доступ до ChatGPT з Ірану.
«Загальна діяльність здавалася схожою на діяльність комерційного суб’єкта, який проводив кампанію впливу за наймом, але ми не можемо ідентифікувати конкретного причетного суб’єкта», – йдеться у звіті компанії. «Ми поділилися інформацією щодо цієї справи з відповідними органами».
Видання Middle East Monitor та Daily Kos заявили, що видалили статті, написані фальшивими авторами, та переглядають свої процедури, щоб запобігти подальшим інцидентам.
Статті Хоскінса для Daily Kos з’явилися на спільноті, яка не підлягала перевірці співробітниками видання перед публікацією. Маркос Муліцас, засновник сайту, в електронному листі написав, що така кампанія «неймовірно руйнівно впливає» на платформу.
«Ми вже маємо проблеми з членами спільноти, які звинувачують інших у тому, що вони боти або мають фейкові акаунти, просто тому, що вони з ними не згодні. Така операція підливає масла у вогонь», – сказав він. «На карту поставлена сама довіра нашої спільноти».
Статті, написані авторами, які, за словами OpenAI, були частиною іранської кампанії, охоплювали низку тем на Близькому Сході, але часто критикували вплив війни в Ірані на американців. Багато видань були зосереджені на політиці та зовнішній політиці.
Після створення статей англійською мовою користувачі ChatGPT в Ірані запропонували чат-боту скоригувати чернетку відповідно до критеріїв подання для конкретного видання та створити електронний лист із пропозицією для надсилання редактору.
Передбачуваних авторів статей описували як позаштатних авторів, політичних аналітиків та захисників миру. Видання Middle East Monitor, яке позиціонує себе як таке, що підтримує палестинську справу, опублікувало щонайменше 21 статтю під псевдонімами, які OpenAI назвала фейковими, зокрема Хоскінсом, Майклом Гаррісоном, Дженні Вільямс та Еліс Джонсон.