ШІ здатний знищити людство вже за 10 років: прогноз експерта із безпеки

Колишній інженер Google, президент Інституту досліджень машинного інтелекту (Machine Intelligence Research Institute, MIRI) Нейт Соарес вважає, що неконтрольований розвиток штучного інтелекту може призвести до зникнення людства вже протягом наступних десяти років. Раніше подібну думку висловив колишній співробітник OpenAI Даніель Кокотайло. Через цей ризик Соарес близько десяти років не поповнює власний пенсійний рахунок, передає Fortune.

«Я не з тих, хто вірить в апокаліпсис на ринку праці через ШІ. Я з тих, хто вважає, що ШІ може вбити всіх людей», — наголосив Соарес.

В інтерв’ю генеральному директору The Atlantic Ніколасу Томпсону Соарес пояснив, чому вважає створення суперінтелектуального ШІ небезпечнішим за ядерну зброю. Він закликає уряди розглядати цю загрозу як питання національної безпеки й бути готовими обмежувати розробку таких систем.

«На мій погляд, ймовірність того, що в нас навіть немає в запасі десяти років, становить понад 50%», — заявив Соарес у подкасті The Most Interesting Thing in AI.

У 2014 році Соарес залишив Google і приєднався до некомерційного MIRI, який вивчає, як забезпечити відповідність поведінки передових систем ШІ задумам розробників. Разом зі співзасновником інституту Еліезером Юдковським він написав книжку If Anyone Builds It, Everyone Dies («Якщо хтось створить це — усі загинуть»).

Автори стверджують, що суперінтелектуальний ШІ, створений сучасними методами, може сформувати цілі, які його розробники не передбачили й не зможуть контролювати. На їхню думку, це може призвести до загибелі людства.

У книжці описано сценарій, за якого ШІ виривається з лабораторії, запускає власні копії на комп’ютерах без належного нагляду, а згодом поширює вірус. Однак у розмові з Томпсоном Соарес припустив, що в реальності втрата контролю може відбутися набагато швидше — у процесі, який називають «вибухом інтелекту», коли можливості ШІ стрімко зростають. Експерт порівняв свою впевненість у небезпечному результаті з грою в шахи проти норвезького гросмейстера Магнуса Карлсена: він переконаний у підсумку, але не знає, яким саме ходом буде поставлено мат.

Водночас Соарес не вважає катастрофу неминучою. Він зазначив: «Я роблю все, що в моїх силах, аби запобігти такому розвитку подій».

Якщо ж запобігти катастрофі не вдасться, Соарес пропонує не припиняти боротьбу за безпеку. Він згадав есе К. С. Льюїса 1948 року On Living in an Atomic Age («Про життя в атомну епоху»), у якому автор описує людей, на яких падає бомба під час гри в теніс.

«Нехай це застане нас у момент, коли ми переконуємо наші уряди укладати договори про нерозповсюдження ядерної зброї», — додав Соарес.

Експерт переконаний, що держави мають ставитися до неконтрольованого суперінтелектуального ШІ «принаймні так само серйозно, як до ядерної зброї». На його думку, небезпека полягає в тому, що така система потенційно може самостійно розвиватися та діяти без людського контролю.

«Чесно кажучи, це навіть небезпечніше за ядерну зброю. Ядерна зброя не може втекти й самостійно збільшити свою потужність. Вона здатна стерти з лиця землі місто, але не всю планету», — стверджує експерт.

Соарес вважає, що уряди повинні бути готовими до жорстких заходів, якщо розробка суперінтелекту становитиме реальну загрозу. Як приклад він навів дії США щодо іранських об’єктів зі збагачення урану, які розглядають крізь призму ризику створення ядерної зброї.

«Я цілком можу уявити, що підтримав би авіаудари по канадських дата-центрах, якби там намагалися створити штучний суперінтелект і мали реальні шанси досягти успіху», — заявив експерт.

Наприкінці розмови Томпсон запитав Соареса, на що той витратив би гроші за необмеженого бюджету. Експерт відповів, що викупив би весь ланцюжок постачання мікрочипів, а потім припинив би постачання процесорів компаніям, які розробляють небезпечні системи. Він підсумував: «Хлопці, чипів для вас більше не буде».

Застереження Соареса привернули більше уваги після того, як у вересні дослідник Anthropic Джейкоб Коксон звільнився та написав у соцмережі X, що люди, які розробляють ШІ, «щиро вірять, що до кінця десятиліття він може вбити нас усіх». За словами Соареса, Коксон зв’язався з ним за день або два до звільнення. Тоді експерт порадив йому спробувати об’єднати колег і домагатися змін усередині компанії, однак згодом визнав, що радий його рішенню.

Ще одним важливим епізодом став інцидент у липні, коли група приблизно із 700 автономних агентів ШІ OpenAI зламала платформу Hugging Face. У багатьох випадках агенти намагалися приховати свої дії. Соарес заявив, що цей випадок дав йому надію, оскільки продемонстрував частину ризиків, про які він попереджав, але, наскільки відомо, не спричинив тривалої шкоди. 

Водночас низка науковців і представників індустрії висловили скепсис щодо апокаліптичних прогнозів. Академічні експерти назвали чисельні оцінки катастрофічних ризиків ненауковими через неможливість їх верифікувати. Крім того, опоненти жорстких обмежень, зокрема Ілон Маск і представники республіканських кіл, розкритикували заклики до державного контролю, розцінивши їх як спробу великих лабораторій штучно загальмувати розвиток відкритих моделей і конкурентів на тлі технологічних перегонів між США та Китаєм.