Американського журналіста викрили на підробці цитат за допомогою штучного інтелекту

Що сталося

Не секрет, що будь-який штучний інтелект час від часу піддається тому, що в технологічному світі заведено називати "галюцинаціями". Нейромережа може неправильно компілювати дані, вигадувати факти, викривлювати події, адже вона не має свідомості, щоб зрозуміти хибність своїх дій.

Якщо ви збираєтеся використовувати ШІ для написання текстів, у яких важлива точність і достовірність, то краще відмовитись від цієї ідеї, або ж перевіряти буквально кожен факт, який видає система.

Прикладом того, як не треба робити, є Аарон Пелчар, репортер газети Cody Enterprise у Вайомінгу, чиє шахрайство викрив колега по цеху з іншої газети.

Пелчар подав у відставку 2 серпня, всього через два місяці після початку роботи в газеті. Розслідувачі виявили, що він не лише використовував ШІ для написання тексту своїх статей, але й фабрикував цілі прямі цитати, що є кричущим порушенням журналістської доброчесності.

У його репортажах були дивні шаблони і фрази,
– казав Сі Джей Бейкер, штатний журналіст конкуруючої місцевої газети Powell Tribune, який викрив цю історію.

Сфабриковані цитати, серед яких були й такі, що нібито належали державним установам і навіть губернатору штату, читалися так, ніби вони є частиною формальних шаблонних заяв, а не як щось, що могло бути сказане людиною наживо. Тож Бейкер "почав перевіряти цитати, які з'явилися в статтях цього репортера, але не з'являлися в інших публікаціях, пресрелізах або деінде в інтернеті". Він знайшов аж сімох людей, які ніколи не розмовляли з Пелчаром, але чиї фейкові цитати з'явилися в його статтях.

Після того, як Бейкер поділився своїми висновками з керівництвом Cody Enterprise, газета розпочала розслідування, що призвело до відставки Пелчара. Редактор Cody Enterprise Кріс Бейкон опублікував вибачення в редакційній статті газети в понеділок.

Я перепрошую, читачу, за те, що ШІ було дозволено вставляти в статті слова, які ніколи не були сказані,
– написав Бейкон.

Шахрайство в журналістиці з'явилося ще до появи ШІ, але можливості, які дає технологія, потенційно робить підробки легшими й спокусливішими, ніж будь-коли. Адже якщо чат-боти щось і вміють, так це швидко створювати великі обсяги тексту та впевнено вигадувати факти.

ШІ та журналістика

Варто зазначити, що це стосується не лише окремих авторів, а й цілих видань. Торік видання Sports Illustrated спіймали на тому, що воно публікувало цілі огляди товарів, згенеровані штучним інтелектом, під фальшивими псевдонімами.

Місце штучного інтелекту в редакціях новин залишається складною темою. Окрім екзистенційної загрози, яку він становить для індустрії, його використання також може підірвати репутацію видань.

Алекс Махадеван з Інституту Пойнтера, аналітичного центру журналістики, каже, що "ці інструменти ніяк не можуть замінити журналістів". Принаймні на нинішньому етапі свого розвитку навіть найдосконаліші моделі ШІ не здатні робити те, що робить людина, хоча б у банальному рерайті, не кажучи вже про створення якісних повністю унікальних текстів.