Папа Римський у Balenciaga та Ісус-креветка: як ШІ перетворює соцмережі на зомбі-інтернет

Розвиток генеративного штучного інтелекту у 2022 – 2024 роках призвів не лише до обговорень, які професії він замінить, а й до швидкого засмічення інтернету. Соцмережі, зокрема Facebook, переповнені низькоякісним згенерованим контентом, створеним для масового поширення. Зазвичай це зображення дітей чи людей старшого віку з нібито зробленими їхніми руками "поробками", обробки відомих людей чи взагалі щось абсурдне на кшталт "креветки – Ісуса".

"Джина" штучного інтелекту вже пізно повертати назад у пляшку, це є загрозою демократії, каже Готьє Вассер, викладач, виконавчий директор Центру бізнес-аналітики Фішера в Каліфорнійському університеті у Берклі, президент Альянсу за інклюзивний штучний інтелект.

Про те, як штучний інтелект перетворює соцмережі на "зомбі – інтернет" – читайте у матеріалі 24 Каналу.

Папа римський у Balenciaga. З чого все починалося

У березні 2023 року у соцмережах стала вірусною нібито фотографія 86-річного Папи римського Франциска у білому пуховику. Зображення ширилося інтернетом, і ніхто не міг повірити, що воно не реальне, доки не з'ясувалося, що це – продукт штучного інтелекту.

Автор зображення – Пабло Ксав'єр, 31-річний будівельник із Чикаго, який поділився своєю історією з BuzzFeed News.

Зображення, згенероване Пабло Ксав'єром

Я намагаюся створювати смішні речі або тріпове мистецтво – психоделічні речі. Мене тільки осяяло: я повинен зробити Папу. Тоді це просто полилося як вода: "Папа Римський у пухкому пальті від Balenciaga, Moncler, гуляє вулицями Риму, Парижа",
– розповідав автор.

Пабло створив зображення Папи за допомогою генератора зображень Midjourney. Побачивши результати свого запиту, чоловік вирішив, що вони "ідеальні", і вирішив опублікувати їх у групі Facebook під назвою AI Art Universe, а потім на Reddit. Пабло каже, що був шокований, коли зображення швидко стали вірусними.

"Мені просто здалося смішним бачити Папу в кумедній куртці", – додає Пабло, який виріс у релігійній католицькій сім'ї. Після публікації зображень на Reddit його заблокували на форумі через кілька годин.

Історія допомогла Пабло усвідомити можливий вплив зображень, створених ШІ, на суспільство. На його думку, творчість штучного інтелекту треба врегулювати законами.

"Креветка – Ісус" та інші герої соцмереж

Раніше інтернет був переповнений спамом – рекламними чи беззмістовними листами в електронній поштовій скриньці. Відтепер існують нові терміни, "помиї" (slop) чи "зомбі – інтернет", пише The Guardian. Це результат роботи штучного інтелекту, який, на відміну від чат-ботів, не є продуктивним і не призначений для допомоги.

Скриншот із соцмереж

ШІ-генерація зображень захоплює. Це дає багато творчих можливостей кожній людині. Але зростання кількості дипфейків і, загалом, зображень, створених штучним інтелектом, у соцмережах (або в будь-яких медіа) має два наслідки,
– зазначає в коментарі 24 Каналу Готьє Вассер, викладач, виконавчий директор Центру бізнес-аналітики Фішера в Каліфорнійському університеті у Берклі, президент Альянсу за інклюзивний штучний інтелект.

Перший аспект – це те, як фейкове зображення можна відрізнити від реального. Під час скролінгу соцмереж людина бачить зображення на екрані смартфона на кілька секунд, не приділяючи достатньо уваги, щоб визначити, це фейк чи правда. Такі зображення будуть масово репостити, їх просуватимуть боти, ефекту досягатимуть навіть неякісні фейки, зауважує Вассер. І перш ніж це врегулюють, буде надто пізно повертати "джина" назад у пляшку.

Скриншот з соцмереж

Інше питання – те, що поширення зображень, створених ШІ, породжує недовіру до реальних зображень. Це ускладнює поширення правдивих новин, стверджує Вассер. З цих двох причин швидке розповсюдження подібних зображень, створених штучним інтелектом, повинно хвилювати демократичні уряди.

"Як ми можемо захистити свободу слова, не перетворюючи наші медіа на безкоштовний цирк?", – ставить питання експерт.

Спам є шкідливим незалежно від того, чи використовується штучний інтелект, чи ні. Однак зазвичай він не несе прямої загрози, як фейкові новини чи ІПСО, але дещо спотворює сприйняття навіть нормальної інформації,
– каже Олександр Краковецький, фахівець зі штучного інтелекту, співзасновник компаній DevRain, DonorUA та Chatty.ai, у коментарі 24 Каналу.

Цю різницю можна проілюструвати таким чином, пояснює Краковецький: коли ми дивимось художній фільм з великою кількістю насилля та крові, це не заважає нам їсти попкорн і навіть жартувати під час перегляду, однак коли ми дивимось документальні фільми чи фільми на основі реальних подій, то будь-який підтверджений факт насилля може викликати сильну емоційну реакцію.

Тобто коли ми знаємо, що перед нами фейк, вигадка, то ми сприймаємо все абсолютно інакше. А ШІ-спам викликає змішані почуття, бо ми не знаємо, яка емоція доречна у цьому конкретному випадку.

Скриншот з соцмереж

Є й зворотна проблема – ШІ-зображення можуть бути більш художніми, і викликати, наприклад, більш щирі співчуття чи радість, аніж справжні фото, де реальність зображена такою, якою є насправді. На думку Краковецького, проблема ШІ-спаму перегукується з іншими проблемами – низькою культурою розуміння роботи ШІ, "хайпом", клікбейтом, ІПСО. Це створює недовіру до будь-якої інформації.

Для боротьби з ШІ-спамом усі інформаційні майданчики (включно з соціальними мережами) повинні створювати різноманітні інструменти для боротьби з фейками шляхом додавання контексту, хронологій, можливості прикріплення коментарів від авторизованих організацій чи користувачів, вважає експерт.

Але все це не має сенсу, коли мета – дезорієнтувати, посіяти страх, паніку, зневіру, а споживачі інформаційного контенту не мають базових навичок розпізнавання маніпуляції.

Будемо чесними, зробити це буде важко. Тому поки що єдиним дієвим способом є відсутність миттєвої емоційної реакції, перевірка фактів, і лише тоді – реакція. Також потрібно напрацьовувати кращі практики роботи з ШІ. Єдине, що це мають робити фахівці з ШІ, чого зараз майже не спостерігаю,
– зауважує Краковецький.

Як у Meta збираються боротися з "помиями"

Нік Клегг, президент із глобальних питань у материнській компанії Facebook, Meta, написав у лютому, що соціальна мережа навчає свої системи ідентифікувати створений штучним інтелектом контент.

Оскільки різниця між людським і синтетичним вмістом стає розмитою, люди хочуть знати, де пролягає межа, Люди часто вперше стикаються зі створеним штучним інтелектом контентом, і користувачі повідомили нам, що вони цінують прозорість цієї нової технології. Тому важливо, щоб ми допомагали людям знати, коли фотореалістичний контент, який вони бачать, створений за допомогою ШІ. Ми робимо це, застосовуючи мітки Imagined with AI до фотореалістичних зображень, створених за допомогою нашої функції Meta AI, але ми хочемо також мати можливість робити це з вмістом, створеним за допомогою інструментів інших компаній.
– зауважив Клегг.

Далі справа за ідентифікацією зображень з Google, OpenAI, Microsoft, Adobe, Midjourney і Shutterstock, а також відео- та аудіоконтенту, створеного штучним інтелектом.

Скриншот з соцмереж

Клегг з Meta прогнозує, що найближчими роками ШІ-контент в соцмережах ставатиме дедалі більш ворожим. Особи та компанії намагатимуться обдурити користувачів за допомогою контенту, створеного ШІ, і шукатимуть способи для обходу запобіжних заходів, які застосовуються для його виявлення.

"У нашій галузі та суспільстві загалом нам потрібно буде продовжувати шукати способи бути на крок попереду", – зазначив фахівець.