Фейсбук заполонили згенеровані ШІ зображення. Як ними користуються шахраї?

Фейсбук зараз повний згенерованих штучним інтелектом зображень. Як ці картинки дозволяють окремим користувачам отримувати популярність, вводячи інших в оману, проаналізувала команда дослідників Стенфордського та Джорджтаунського університетів.

«Значна частина досліджень і дискусій щодо ризиків генераторів зображень, таких як DALL-E та Midjourney, зосереджувалася на тому, чи можна їх використовувати для введення неправдивої інформації в політичний дискурс. Ми показуємо, що спамери та шахраї, які, здається, керуються прибутком чи впливом, а не ідеологією, уже використовують зображення, згенеровані ШІ, щоб отримати значну популярність у Facebook», — пояснюють автори Рене Діреста та Джош Голдстейн.

Вони дослідили 125 сторінок, кожна з яких публікувала щонайменше 50 синтетичних зображень. Деякі сторінки ведуть одні й ті самі люди. Ці сторінки мають у середньому 146 тисяч підписників.

Це згенероване ШІ зображення було серед топ-20 найпопулярніших фейсбук-постів, отримавши 40 мільйонів переглядів і два мільйони лайків:

«Підозрюємо, що такий високий рівень залученості частково зумовлений алгоритмом рекомендацій Facebook», — зазначають дослідники. За останні три роки соцмережа збільшила частку «рекомендованого» контенту, який виринає у стрічці, до 24%, тобто це кожен четвертий пост.

«Facebook перетворився на нескінченний сувій зображень Midjourney, і, схоже, ніхто цього не помітив», — обговорюють користувачі Reddit.

Спамерські або шахрайські сторінки використовують ШІ-зображення з такими цілями:

• за допомогою тактики клікбейта спрямовувати користувачів до сайтів поза фейсбуком. Наприклад, під постом із милими будиночками лишають посилання на сайт, який нібито пропонує інструкції щодо їх будівництва;
• штучно нарощувати кількість підписників, що також монетизується;
• красти сторінки. Наприклад, сторінку реального гурту Rock the Nation шахраї хакнули та перейменували на Life Nature і почали постити генеровані зображення, довівши кількість підписників до 300 тисяч;
• виманювати персональні дані;
• продавати неіснучі товари.

Що найчастіше постять?

Спамери та шахраї часто вдаються до подібних тактик. ШІ-зображення нерідко супроводжуються коментарем, спрямований на емоційну реакцію: наприклад, літніх людей, людей з інвалідністю, дітей, тварин із написом «Сьогодні мій день народження, я (дуже хворий / потворний), і мене ніколи ніхто не вітав».

Або ж згенеровані ШІ картини чи скульптури з підписом «Я зробила це сама». Так само це може бути зображення страви з підводкою «Це мій перший торт! Чекаю на вашу оцінку».

Часом поєднання тексту і зображення виглядає геть абсурдно, як-от цей краб-Ісус із підписом «Я зробила це сама». Втім, допис набрав понад 200 тисяч лайків та 4 тисячі коментів.

Найпоширеніші теми для зображень — затишні будиночки, діти, різьблення по дереву, Ісус.

Що має передусім викликати підозру?

Аналіз свідчить, що чимало людей не усвідомлюють, що фото не справжні. Дослідники звертають увагу на ознаки, які мають викликати підозру. Передусім, це грубі помилки, яких припускається штучний інтелект, як-от зайві руки чи пальці.

Часто штучно згеренованими виявляються зображення, які повторюються і супроводжуються ідентичним текстом.

Автори стверджують, що самі постраждали під час свого дослідження: після довгих пошуків ШІ-контенту їхні власні фейсбук-стрічки почали завалювати їх синтетичними дітьми, будиночками і тортами.

• #Facebook
• #Шахрайство
• #Штучний інтелект