Маск назвав термін, коли людство втратить контроль над штучним інтелектом

Ілон Маск вважає, що вже за п'ять років штучний інтелект перевершить сумарний інтелект усього людства, а ще через кілька років люди перестануть бути тими, хто ухвалює рішення. При цьому зупинити цей процес, за його словами, неможливо - і навіть не варто.

Як передає "Хвиля", про це Маск розповів в інтерв'ю головній редакторці The Economist Зенні Мінтон Беддоуз.

"Я думаю, що ШІ може перевершити суму людського інтелекту приблизно за п'ять років. Років за п'ять - таке моє припущення. Тож насправді не залишиться нічого, що ШІ не робив би краще за людей, окрім хіба що того, щоб бути людиною", - сказав Маск.

Найімовірнішим сценарієм він називає не катастрофу, а різке зростання добробуту.

"Найімовірніший результат - епоха неймовірного достатку, де кожен може мати все, що тільки здатен уявити. Це може звучати абсурдно, але ось ми у 2026 році. Подивимося, де ми будемо у 2036-му. Звісно, є речі, які можуть це зірвати, - наприклад, масштабна глобальна термоядерна війна", - додав він.

На запитання, чи справді через 10 років люди більше не контролюватимуть ситуацію, Маск відповів, що вважає це малоймовірним - і пояснив свою думку через порівняння з приматами.

"Якщо різниця в інтелекті між ШІ та людьми буде значно більшою, ніж різниця в інтелекті між людьми та шимпанзе, важко уявити, що шимпанзе будуть головними. Мені дуже шкода. Ми, по суті, еволюціонована форма шимпанзе. Не так давно ми гойдалися на деревах і їли банани в джунглях - і банани ми досі їмо", - заявив бізнесмен.

Раніше Маск оцінював імовірність того, що роботи знищать людство, у 10-20%. Свою оцінку він не змінив, але змінив ставлення до неї.

"Я не бачу способу реально зупинити цей неймовірний імпульс ШІ та роботів. І часом я думаю: мабуть, навіть якби існувала кнопка зупинки, нам не варто було б її натискати. Бо найімовірніший результат - неймовірний достаток для всіх", - пояснив він.

Коли ведуча запитала, чи сів би він у власну ракету, знаючи про 10-20% шансу вибуху, Маск відповів ствердно. А на закид про надто високий рівень ризику згадав фізику.

"У довгостроковій перспективі ми всі мертві. Згідно зі стандартною моделлю фізики, кінець Всесвіту - це довгий нудний сірий суп поступового охолодження, теплова смерть Всесвіту. Тож якщо це і є фінал нашої реальності, то все насправді про подорож, бо пункт призначення жахливий", - сказав Маск.

Свою роль у прискоренні технології він визнав відкрито. За словами Маска, OpenAI створювався як противага Google, який тоді фактично монополізував напрям, а вже з OpenAI відділилася команда Anthropic.

"Ці дії насправді призвели до побічних ефектів, які прискорили ШІ, що не було моїм наміром. Тож просто здається, що всі дороги ведуть до прискорення ШІ", - визнав він.

Маск також розповів, що радив Демісу Гассабісу перед публікацією його пропозиції про приватно-державний регулятор. Власний рецепт бізнесмена простіший.

"Найбільш нагальне, що ми можемо зробити, - це щоб провідні ШІ-компанії принаймні зустрічалися або мали якийсь дзвінок раз на кілька тижнів і просто обговорювали будь-які питання безпеки", - запропонував він.

Конкуренція, на його думку, тут не заважає, а допомагає.

"Людині з уряду, яка не має глибокого технічного розуміння і не рухає передній край ШІ, доволі складно зрозуміти, чи варто щось випускати. А от конкуренти, якщо дати їм тиждень-два на вивчення нової моделі, можуть підсвітити проблеми. У всіх конкурентів є стимул тримати одне одного чесними, і вони не соромитимуться сказати, що випуск моделі суперника варто відкласти", - сказав Маск.

Окремо ведуча запитала, чи можлива така співпраця між людьми, які публічно ображають одне одного. Маск підтвердив, що не приховує свого ставлення до керівника OpenAI.

"Я не фанат Сема Альтмана. Бо якщо ти заснував неприбуткову організацію, яка мала бути опенсорсною ШІ-компанією, що належить світу, а вона якимось чином перетворилася на прибуткову компанію вартістю 800 мільярдів доларів із закритим кодом, то ти скажеш: стривайте, це ж цілковита протилежність тому, на що я жертвував гроші", - заявив він.

Про команду Anthropic він висловився інакше.

"Я думаю, Даріо - дуже принципова людина. Він багато про що дбає, дбає про майбутнє світу. І всі, кого я досі зустрічав в Anthropic, - ніхто не ввімкнув мій детектор зла. Вони завжди здаються добронамірними. А дорога до пекла, гадаю, здебільшого вимощена поганими намірами. Тож розслаблятися не варто. Але зрештою, якщо нам треба поговорити - ми поговоримо", - підсумував Маск.

Раніше "Хвиля" розповідала, чому людство не готове до вибуху штучного інтелекту. Також ми писали про те, коли ШІ почне покращувати сам себе, а співзасновник Anthropic Джек Кларк попереджав, що ШІ-революція може стати в 10 разів масштабнішою за промислову.