"Мчимося на повній швидкості": ШІ знищить людство з імовірністю 95%, – експерт

За оцінками Нейта Соареса, колишнього інженера Google і Microsoft, а нині президента Інституту досліджень машинного інтелекту, якщо ми продовжимо йти нинішнім шляхом, шанс на вимирання через штучний інтелект становить щонайменше 95%, пише The Times.

"Я не кажу, що ми не можемо зупинити машину. Але ми просто мчимося на повній швидкості до скелі", — заявив Соарес.

Подібні побоювання розділяють лауреат Нобелівської премії Джеффрі Гінтон, математик Йошуа Бенжіо, а також глави OpenAI, Anthropic і Google DeepMind. Разом вони підписали відкритого листа, в якому сказано, що зменшення "ризику зникнення" від ШІ має бути пріоритетом людства на рівні з такими загрозами, як пандемії та ядерна війна.

Своєю чергою Холлі Елмор, виконавчий директор PauseAI, оцінює ймовірність вимирання людства через ШІ в 15-20%. Приблизно такі ж цифри називають очільники технологічних компаній, включаючи засновника xAI Ілона Маска (20%) та гендиректора Google Сундара Пічаї (10%).

Як зазначають у виданні, найближчими роками очікується стрімка еволюція штучного інтелекту, в результаті чого його можливості перестануть бути обмеженими. На думку експертів, ШІ зможе робити те, про що люди можуть лише мріяти, наприклад, лікувати рак, досягати холодного синтезу або подорожувати до зірок.

Такий світ може здатись утопією, однак вона ґрунтується на ідеї, що ШІ продовжуватиме виконувати накази людей. Як виявляється, забезпечити це є неймовірно складним технічним завданням. У дослідженнях ШІ це називається "вирівнювання".

Автори статті наголошують, що досягти "вирівнювання" майже неможливо, оскільки для цього потрібно передбачити, як "мислить" ШІ. Багато внутрішніх процесів прийняття рішень штучним інтелектом вже зараз незрозумілі для людей. Ще одна проблема полягає в тому, що ШІ може брехати та робить це вже зараз.

"Ви можете створювати інтелектуальні комп’ютери, навіть не маючи уявлення, що, чорт забирай, ви робите. Ми беремо величезну обчислювальну потужність і зіштовхуємо її зі справді величезною кількістю даних таким чином, що це якимось чином формує комп’ютери. Ніхто не знає, що відбувається всередині цих речей", — попередив Соарес.

Нагадаємо, генеральний директор компанії OpenAI Сем Альтман заявив, що нова версія ChatGPT виявилася настільки швидкою і потужною, що почала його лякати.

Фокус також повідомляв, що Сем Альтман вважає неправильним звертатися до ШІ за емоційною підтримкою, оскільки чат-боти не зобов'язані дотримуватися конфіденційності.