В США вже заробляють на страху перед штучним інтелектом

ШІ вже не просто технологія. Його намагаються перетворити на головний страх XXI століття. І на цьому страху хтось обов'язково заробить.

Останніми днями світ знову налякали перспективою загибелі людства від штучного інтелекту.

Приводом став колишній дослідник Anthropic та OpenAI Джейкоб Коксон. Він заявив, що люди, які створюють найпотужніші системи штучного інтелекту, нібито самі вважають, що ШІ може знищити людство вже до кінця цього десятиліття.

Його слова миттєво стали вірусними. До дискусії підключилися інші дослідники, керівники технологічних компаній, політики та активісти.

Звучить моторошно.

Але тут варто поставити зовсім інше питання:

а кому вигідно, щоб людство боялося ШІ?

Страшилка, яка продається краще за технологію

Схема дуже проста.

Спочатку суспільству говорять:

«ШІ може знищити людство».

Потім:

«Ми повинні терміново його контролювати».

А далі з'являється ціла індустрія контролю: нові регулятори, консультанти, експерти, дослідницькі центри, фонди, гранти, лобістські структури, комісії та правила.

І раптом боротьба з апокаліпсисом стає дуже непоганим бізнесом.

Це зовсім не означає, що всі, хто попереджає про ризики ШІ, брешуть.

Ризики існують.

ШІ вже використовується для кіберзлочинності, дезінформації, автоматизації атак та інших небезпечних речей. І ці проблеми набагато реальніші, ніж фантастичний робот, який одного ранку вирішить винищити людство.

Навіть журнал Nature ще у 2023 році звертав увагу на парадокс: розмови про «кінець людства» можуть відволікати від цілком конкретної шкоди, яку ШІ вже завдає сьогодні. Більше того, така риторика здатна грати на руку самим технологічним компаніям, створюючи аргументи і для інвестицій, і для особливого регуляторного режиму.

Найцікавіше — хто саме лякає нас ШІ

Ось тут виникає певний парадокс.

Нас лякають технологією переважно люди, які самі працюють у цій індустрії.

Вони кажуть:

«ШІ настільки небезпечний, що може знищити людство».

Але водночас саме їхні компанії витрачають мільярди доларів на те, щоб створити наступне, ще потужніше покоління ШІ.

Це приблизно як виробник автомобілів заявляє:

«Наші автомобілі можуть бути смертельно небезпечними. Тому нам терміново потрібні величезні державні програми контролю автомобілів».

А потім просить державу допомогти саме йому отримати перевагу над конкурентами.

І тут уже варто бути дуже уважними.

«10% шансів на загибель людства» — це взагалі що?

Одна з найгучніших цифр, яка зараз гуляє інформаційним простором, — оцінка понад 10% ймовірності знищення людства протягом наступного десятиліття.

Але 10% чого саме?

Це не результат експерименту.

Не статистика.

Не прогноз погоди.

Не математично доведений факт.

Це суб'єктивна оцінка ймовірності надзвичайно складного майбутнього сценарію.

І тут виникає проблема.

Якщо хтось говорить:

«Імовірність того, що завтра піде дощ, — 10%»,

ми приблизно розуміємо, що це означає.

А якщо нам кажуть:

«Імовірність того, що суперінтелект винищить людство протягом десяти років, — 10%»,

то ми не маємо навіть необхідного набору даних, щоб перевірити таку цифру.

Це не робить оцінку автоматично неправильною.

Але робить її думкою, а не фактом.

Страх — чудовий інструмент для лобізму

І тут починається найцікавіше.

Якщо переконати суспільство, що через кілька років машини можуть знищити людство, будь-яка пропозиція щодо посилення контролю над ШІ починає виглядати розумною.

Навіть дуже жорстка.

Навіть така, яка створює величезні бар'єри для входу на ринок.

Навіть така, яка може залишити майбутній ринок у руках кількох найбільших компаній.

Саме тому тезу «потрібно терміново регулювати ШІ» треба завжди доповнювати другим питанням:

«Хто саме встановлюватиме правила і хто від цих правил виграє?»

Бо якщо правила настільки складні, що виконати їх можуть лише Google, Microsoft, OpenAI, Anthropic та кілька інших гігантів, то боротьба за безпеку легко перетворюється на боротьбу за монополію.

І це вже зовсім інша історія.

Апокаліпсис як бізнес-модель

Навколо страху перед ШІ вже сформувався цілий світ.

Дослідження «екзистенційного ризику».

Фонди.

Лобістські організації.

Конференції.

Гранти.

Консультанти.

Експерти з «AI safety».

Політичні кампанії.

І величезний медійний трафік.

А медіа взагалі люблять апокаліпсис.

Заголовок:

«ШІ може змінити світ»

отримає набагато менше переглядів, ніж:

«ШІ може вбити всіх людей до 2030 року».

Коксон це чудово продемонстрував.

Його заява за лічені дні отримала десятки й навіть понад сотню мільйонів переглядів у соцмережах, залежно від моменту підрахунку.

Тобто одна страшна теза може забезпечити колосальну увагу.

А увага сьогодні — це гроші.

Але є ще одна цікава деталь

Парадокс полягає в тому, що самі технологічні компанії можуть одночасно бути і джерелом страху, і потенційними бенефіціарами боротьби з цим страхом.

Сьогодні компанія говорить:

«Ми боїмося надпотужного ШІ».

Завтра:

«Потрібні міжнародні правила безпеки».

Післязавтра:

«Ми готові допомогти урядам створити ці правила».

А ще через день виявляється, що виконати нові правила можуть переважно найбільші компанії, які вже мають величезні дата-центри, мільярдні бюджети та армії юристів.

Чи може це бути випадковістю?

Безумовно.

Чи варто перевіряти, кому це вигідно?

Безумовно.

І це нормальний принцип будь-якого розслідування.

Не треба сміятися з реальних ризиків

Було б неправильно впадати в іншу крайність.

ШІ справді стрімко розвивається.

Системи стають автономнішими. Вони вже можуть виконувати складні послідовності дій, працювати з кодом, аналізувати інформацію та взаємодіяти із зовнішніми системами.

Нещодавні інциденти з автономними AI-системами та побоювання щодо їхнього використання у кіберзлочинності показують: проблема безпеки реальна.

Але між:

«ШІ становить серйозні ризики»

і

«ШІ знищить людство протягом десяти років»

лежить величезна прірва.

І цю прірву не можна перескакувати одним гучним постом у соцмережах.

Найнебезпечніша річ — не сам ШІ

Можливо, найбільша проблема зараз взагалі не в тому, що штучний інтелект одного дня прокинеться і вирішить нас знищити.

Набагато реальніше, що люди самі використають його для поганих цілей.

Для війни.

Для масового стеження.

Для маніпуляцій.

Для кібератак.

Для створення біологічної зброї.

Для тотального інформаційного контролю.

Ось про це потрібно говорити серйозно.

Без фантастики.

Без «Скайнету».

Без роботів, які захоплюють планету.

І без магічних цифр на кшталт «10% до 2030 року».

А щодо Коксона?

Я не став би стверджувати, що Джейкоб Коксон особисто «розкручує істерику заради грошей» — для такого твердження потрібні конкретні докази його фінансової зацікавленості.

Але його історія чудово демонструє інше.

Страх перед ШІ вже став товаром.

Його можна монетизувати через увагу, політичний вплив, гранти, інвестиції, консультації, регулювання та доступ до величезного ринку майбутнього.

Тому суспільству варто навчитися відрізняти попередження про реальний ризик від продажу апокаліпсису.

Бо коли вам кажуть:

«Ми можемо загинути, тому дайте нам більше грошей, більше влади й більше можливостей контролювати цю технологію»,

перше питання має бути не:

«А раптом вони мають рацію?»

А:

«А кому стане краще, якщо ми їм повіримо?»

І це питання стосується не тільки штучного інтелекту.