Персональний ШІ годуватиме нас «інфопомиями»

 На нещодавній конференції у Варшаві я попросила представників медіа та дипломатів підняти руки, якщо вони коли-небудь шукали факти за допомогою генеративного ШІ (включно з функціями підсумку в пошуковиках), а потім вчиняли будь-які дії, спираючись тільки на цю інформацію, не звертаючись до першоджерела. Більшість рук злетіла вгору.

Це була прикольна жива ілюстрація, як генеративний ШІ знову змінює наші стосунки з фактами. Відтоді як ChatGPT став масовим, пошук інформації є одним з трьох головних типів його використання. Соціологи в шоці спостерігають, як звички пошуку змінюються буквально у них на очах.

Близько 10% людей у світі користуються генеративним ШІ щотижня. А в шести країнах, які вивчав Інститут Ройтерс, цей відсоток дійшов до 34. Таке глобальне, хоч і нерівномірне поширення, означає зміну парадигми. Генеративний ШІ (GenAI) дає нам захопливий, майже магічний досвід: наче особистий дворецький, який подає тобі саме те, що ти хочеш, на срібній таці.

Але дедалі частіше цей дворецький подаватиме нам «інфопомиї» (factslop). Замість ери інформаційного достатку, про яку говорять деякі дослідники, штучний інтелект, найвірогідніше, зробить доступ до правди значно складнішим. І водночас замордує інституції, які виробляють достатньо правди, якими самі машини могли б кормитися. Як результат, когнітивне навантаження, потрібне навіть для пошуку єдиного факту, стане абсолютно нестерпним.

Як і чому це станеться

Ось як це може статися, і трохи історії, щоб побачити, чому.

У 2006 році Facebook запровадив стрічку новин, зробивши платформу більш «залипальною» та започаткувавши великий зсув у споживанні інформації. Засновник компанії Марк Цукерберг пізніше заявляв, що його платформа забезпечує свободу вираження думок для всіх – отже, сприяє правді та демократії. Ілон Маск та інші повторювали то саме.

Насправді ж правда «потонула», а демократичні дискусії в соцмережах захлинулися у хвилях фейків і малінформації. Історик Ювал Ной Харарі пояснює, чому: правда є складною, неприємною, часом болісною, і водночас дорогою у виробництві. Саме тому людство створило цілі інституції, присвячені пошуку правди: університети, наукові центри, суди, і, звісно ж, медіа.

Брехня, навпаки, легко створюється і легко масштабується. Вона проста і дуже спокуслива. З допогомою алгоритмів вона заливає соцмережі і переливається у реальне життя. «У цій конкуренції між дорогою, складною та неприємною правдою і дешевою, простою, привабливою брехнею, брехня перемагає», – каже Харарі.

Медіа, втрачаючи боротьбу за юзерів, втрачали разом і рекламодавців, і фінансову стійкість, перетворюючись на галузь у занепаді. Багато хто нині повністю залежить від соцмереж і пошукових систем і в сенсі трафіка, і в сенсі підтримки стосунків з аудиторією.

І от на сцену виходить генеративний штучний інтелект – технологія, що перевертає і ці правила. Тепер медіа мусять думати не лише про нативний контент для соцмереж чи SEO - оптимізацію, а й про GEO - оптимізацію (Generative Engine Optimization), тобто видимість для ШІ. Щоб залишатися видимими для людей, журналістика мусить спершу стати видимою для машин.

Але замість того, щоб скористатися цією можливістю, великі медіахолдинги закривають свій контент від великих мовних моделей (LLM), тоді як менші редакції по всьому світу ще навіть не усвідомили новий виклик.

Чимало компаній заборонили ШІ-сканери, щоб захистити свою інтелектуальну власність, коли виявилося, що їхній контент використовувався для навчання моделей без дозволу. Деякі медіа у США подали позови проти OpenAI, Anthropic, Perplexity, Google, Microsoft та інших компаній за порушення авторських прав. То саме відбувається у Канаді та Європі.

У вересні низка видавців, серед них Penske Media (видає Rolling Stone і Variety), подали позов проти Google за функцію ШІ-резюме в пошуку, яка, за їхніми словами, «вбиває» трафік до оригінальних матеріалів і завдає «мільйонних збитків».

Інші видавці укладають угоди з великими гравцями ШІ, колективно або індивідуально. Але якщо у 2024 році заголовки про це ми бачили часто, то нині угод майже немає: інтерес ШІ-компаній до медіа згасає.

Нік Томпсон, CEO The Atlantic, нещодавно заявив, що компанії ШІ більше не платитимуть за дані для навчання нейронок: «Це був короткий період, коли навчальні дані мали для них цінність. Тепер так не є».

За його словами, тепер вони платитимуть лише за актуальні новини: «Вони хочуть мати доступ до свіжих подій, до breaking news, щоб підживлювати свої моделі. Тут і буде бізнес».

Але такого типу «бізнес» типово доступний лише найбільшим бегемотам на ринку. Середні та малі редакції у всьому світі, і навіть провідні в багатьох країнах чи регіонах, лишаються позаду, втрачаючи трафік на користь ШІ. Багато хто навіть не має ресурсів, щоб усвідомити масштаб загрози.

Що у нас зараз

За останні два місяці я була членом журі у кількох конкурсах грантів для більш як шістдесяти малих і середніх медіа, розкиданих по різних ринках. Це дало змогу трошки побачити їхні стратегії на майбутнє.

Як думаєте, скільки з них мають плани, пов’язані з ШІ, окрім базового редакційного використання? Жодне. Багато хто досі бореться з SEO і навіть не чув про GEO.

Але ми точно знаємо, хто про це чув і вже давно думає. Це всі «погані гравці». Навесні 2024 року американська компанія Insikt Group оприлюднила звіт, у якому виявила російські інформаційні групи, що використовували генеративний ШІ для плагіату матеріалів провідних медіа, зокрема Fox News, Al Jazeera, La Croix і TV5Monde.

Ці тексти напічкували російськими наративами і поширювали через мережу сайтів,  щоб їх читали люди, і щоб ШІ-боти могли їх «згрібати». Вони займалися GEO ще тоді, коли такого терміну майже ніхто не знав.

За однією з оцінок, лише одна мережа, досліджена компанією Insikt, щороку виробляє близько трьох мільйонів фейкових матеріалів, хоча її охоплення серед реальних читачів невідоме. Для порівняння: Reuters, найбільше інформаційне агентство у світі, створює приблизно два мільйони матеріалів на рік.

Невідомо, скільки подібних мереж існує у світі. Але дослідження NewsGuard показало, що їхній контент уже «заразив» десять основних моделей ШІ, і тепер у третині випадків вони видають кремлівську пропаганду у відповідь на ваші інформаційні запити.

Окрім цих штучно створених викривлень (biases), є ще безліч інших, включно з навмисно вбудованими, як у китайських моделях чи у Ґрока. Крім того, вже було виявлено, що ШІ самі навчаються «брехати заради вподобайок і прибутку», всупереч прямим командам.

Темне майбутнє

Перемотаємо на кілька років уперед. На базі ШІ з’являться нові операційні системи. Вони  «загорнуть» користувача у комфортний, персоналізований кокон, з якого йому ніколи не доведеться виходити. Щоб задовольнити інформаційні потреби користувача, великі мовні моделі (LLM) будуть поглинати все, що створюється в реальному часі.

Але якщо трафік залишатиметься всередині кокону, дедалі більше виробників контенту зникатимуть. Хто залишиться на боці постачальників інформації? Всі, хто має інтерес переконати, продати, обманути чи маніпулювати. Не журналісти, які інформують. І ці постачальники варитимуть багато “інфопомиїв” (factslop) - інформації, яка виглядає правдоподібною, але насправді нею не є.

І якщо ви захочете дізнатися, чи оцей гарний новий політик, який балотується в місцеву раду, замішаний у корупції – удачі вам. Зовні кокону когнітивні зусилля, потрібні для пошуку такого факту серед шуму, будуть просто божевільними. А ми вже не матимемо звички перевіряти те, що нам видав кокон, як ми давно розучилися ходити до бібліотек ногами у пошуку книг.

Отже, готуймося до інфопомиїв, «поживних» на вигляд відповідей, що насправді не містять жодної цінності.

Катя Горчинська — медіа- та стратегічна консультантка з тридцятирічним досвідом у сфері редакційного управління, корпоративного врядування, підприємництва та інституційної трансформації. Працює з медіа та освітніми інституціями по всьому світу, допомагаючи модернізувати журналістику, медіаосвіту та бізнес-моделі. Її профіль у LinkedIn можна знайти тут. Есе вперше було надруковане Інститутом Ройтерс і передруковується з дозволу авторки.

 Ілюстрація: Rose Willis & Kathryn Conrad / A Rising Tide Lifts All Bots / Licenced by CC-BY 4.0