Захопить світ через 10 років: три сценарії, як ШІ виходить з-під контролю

Співробітники найбільших AI-компаній звільняються і розповідають про страх усередині індустрії: ШІ може знищити людство вже через 10 років. Усе це здавалося фантастичним прогнозом, поки із заявою про необхідність «загальмувати» не виступили глава Anthropic Дario Амодеї, Сем Альтман з OpenAI та Ілон Маск. Трамп і Китай виступили проти. Розбираємося, звідки прийшла нова паніка, три сценарії, як владу захоплять машини, і чому світові держави не хочуть зупинятися.

Людству залишилося 10 років: звідки пішла паніка

На початку вересня 2026 року рядовий дослідник Джейкоб Коксон звільнився з Anthropic (до цього три роки працював в OpenAI) і написав у соцмережі: «Люди, які будують ШІ, щиро вважають, що він може вбити всіх нас до кінця десятиліття. Це не маркетинговий трюк. Вони мчать просто до самовдосконалюваного надрозуму і грають нашим життям», повідомляє Axios.

Його майже одразу підтримав колега Еван Хубінгер — керівник напряму з перевірки «вирівнювання» ШІ в Anthropic: «Джейкоб має рацію. Ми справді всерйоз вважаємо, що ШІ може вбити всіх людей. Особисто я оцінюю ймовірність цього в найближчі десять років вище 10 відсотків».

Усе це можна було списати на інтриги або емоційну неврівноваженість скривджених звільнених співробітників, але тут раптом заговорили їхні боси, і вони вже добряче нагнали паніки.

Чому раптом злякалися боси ШІ

Найсенсаційнішим став виступ Дario Амодеї. Глава Anthropic (творця ШІ Claude) — написав есе, у якому стверджує, що ШІ розвивається надто швидко, — повідомляє CBS News.

Амодеї попереджає, що за останні місяці можливості систем почали зростати особливо стрімко. Однією з причин він називає recursive self-improvement — рекурсивне самовдосконалення, коли ШІ починає допомагати створювати досконаліші версії самого себе.

За словами Амодеї: «Якщо залишити цей процес без контролю, він може випередити нашу здатність розуміти й контролювати ці системи. Ми повинні сповільнити темп, з яким покращуємо можливості моделей ШІ».

Амодеї запропонував три конкретні кроки: пустити всередину компаній незалежних контролерів із повним доступом, домовитися про спільні стандарти безпеки між демократичними країнами та спробувати вийти на глобальні правила (включно з Китаєм).

Сем Альтман з OpenAI відреагував майже миттєво: «Я згоден із Дарио, що нам потрібно задати темп передовому розвитку. Ми могли б втратити контроль над майбутнім на користь ШІ — це неприйнятно». Ілон Маск написав ще коротше: «Дарио має рацію».

Як ШІ може захопити світ: 3 сценарії

Сьогодні ми всі вже розуміємо, що сценарій захоплення влади машинами обійдеться без роботів-убивць, як у «Термінаторі». Але Скайнет, як і раніше, буде в новому втіленні. Штучний інтелект поступово отримає доступ до систем, якими сьогодні керують люди, — інтернету, програмного забезпечення, фінансових операцій, кіберзброї, промисловості та військових мереж.

Сценарій №1. ШІ захоплює інтернет

Сучасні AI agents — ШІ-агенти, здатні самостійно виконувати ланцюжки дій, можуть писати код, шукати інформацію, створювати облікові записи та взаємодіяти з іншими системами.

Буде тисячі або мільйони автономних програм, які самі ставлять собі завдання, приховують сліди, зламують системи та координуються між собою. Амодеї прямо попередив: за нинішніх темпів через 6–12 місяців такий рій цілком здатний «захопити весь інтернет» і завдати збитків на сотні мільярдів доларів.

Сценарій №2. Біологічна або інфраструктурна катастрофа

ШІ не обов’язково має ненавидіти людей. Йому достатньо оптимізувати якусь мету — і дорогою створити новий патоген, обрушити енергосистеми або паралізувати фінанси. Достатньо невеликої помилки в постановці цілей, щоб наслідки стали незворотними та призвели до серйозних катастроф, у яких можуть загинути мільйони людей.

Сценарій №3. Апокаліпсис: машина починає покращувати саму себе

Це головний сценарій Апокаліпсису! Коли ШІ починає сам писати покращення для себе: аналізувати власний код; знаходити його слабкі місця; пропонувати покращення; створювати наступну версію. Це і є recursive self-improvement — рекурсивне самовдосконалення.

Кожен новий цикл робить ШІ розумнішим, і в якийсь момент швидкість цього процесу виходить з-під контролю людини. Система стає настільки складною, що люди просто перестають розуміти, що вона робить і навіщо. Після цього «вимкнути» її вже майже неможливо.

Чому Трамп і Китай не хочуть гальмувати

І ось тут апокаліптична історія стикається із суворою геополітикою. Дональд Трамп не підтримав ідею сповільнення. Навпаки, він заявив: «Ми лідируємо в ШІ, ми найпередовіша країна у світі, і, відверто кажучи, я хочу, щоб так і залишалося».

А потім виголосив фразу, яка фактично пояснює всю позицію Вашингтона: «Хто виграє ШІ, той виграє».

ШІ здатний дати армії те, чого вона завжди хотіла: швидше бачити поле бою, швидше знаходити цілі, швидше аналізувати розвіддані та швидше ухвалювати рішення. Тому США розглядають ШІ не лише як комерційну технологію, а й як елемент майбутньої військової переваги.

У Китаю є ще одна причина. ШІ здатний дати економіці новий ривок. Країна, яка першою отримає ШІ-вчених, інженерів та управлінців рівня «значно краще за людину», отримає вибухове зростання продуктивності та домінування в нових галузях на десятиліття вперед. ШІ може автоматизувати програмування, виробництво, логістику, наукові дослідження, аналіз даних та величезну кількість інтелектуальної праці.

У результаті — якщо OpenAI сповільниться, Anthropic сповільниться, Google сповільниться і американські військові знизять темп, а китайські розробники продовжать гонку, то безпека США опиниться під загрозою. Того ж побоюються і в Пекіні.

Чи можна зупинити Апокаліпсис?

Поки немає жодних доказів, що штучний інтелект справді знищить людство через десять років. Немає і наукового консенсусу, згідно з яким ймовірність такого результату становить 10%.

Тривогу викликає інше: зростаюча кількість людей усередині самої індустрії, які вважають навіть невеликий ризик неприйнятним.

Шанс на сповільнення є. За версією Амодеї — це не повна заборона. Це: постійні незалежні аудитори всередині лабораторій; спільні правила, які не дають можливостям ШІ занадто далеко втекти вперед від систем безпеки; домовитися на міжнародному рівні.

Реалістично це? Усередині США та Європи — можливо. На глобальному рівні, поки триває жорстка гонка між Америкою та Китаєм, — вкрай складно.

А, можливо, машини ніколи й не захочуть «захоплювати світ» і їм це нецікаво.