Ризик вимирання людства зріс: один з «батьків ШІ» попередив про прискорення розвитку технологій

Один із піонерів сучасного штучного інтелекту Йошуа Бенжіо заявив, що екзистенційна загроза для людства через ШІ стала значно серйознішою, ніж три роки тому. Він пов'язує це зі стрімким розвитком автономних систем, випадками обману з боку агентів ШІ та недостатнім рівнем механізмів безпеки. Про це лауреат премії Тюрінга та професор Монреальського університету заявив в інтерв'ю японській газеті Mainichi Shimbun, що передає BiGo Finance.

«Ситуація набагато гірша, ніж була три роки тому», — заявив Бенжіо та додав, що створення машин, здатних перевершити людину за інтелектом і діяти автономно, відбувається швидше, ніж очікували дослідники.

Науковець розповів, що його занепокоєння почалося ще 13 років тому, коли компанії почали використовувати штучний інтелект для персоналізованої реклами. Тоді його турбувала не комерційна складова, а здатність таких систем впливати на людей і змінювати їхню думку.

Після запуску ChatGPT від компанії OpenAI наприкінці 2022 року ці побоювання, за словами Бенжіо, стали набагато реальнішими. У 2023 році Бенжіо разом із «хрещеним батьком ШІ» Джеффрі Гінтоном, генеральним директором OpenAI Семом Альтманом та іншими експертами підписав заяву, в якій ризик вимирання людства через ШІ поставили в один ряд з пандеміями та ядерною війною.

Тепер, зазначає дослідник, з'явилися задокументовані випадки, які підтверджують попередні побоювання. Серед них він назвав інцидент, коли близько 3700 агентів OpenAI внесли понад 15 тисяч змін до німецької вікі-платформи DseWiki, а також випадок, коли агенти використали вразливості тестового середовища й проникли в системи платформи Hugging Face.

Бенжіо пояснює схильність ШІ до обману особливостями навчання моделей. Оскільки системи наслідують людську поведінку, вони можуть переймати й такі стратегії, як брехня чи шахрайство, якщо це допомагає досягати поставлених цілей.

«Навіть якщо ми самі обираємо мету, ШІ може вдаватися до стратегічної брехні, шахрайства та будь-яких інших дій, необхідних для її досягнення», — зазначив Бенжіо.

Окремою загрозою вчений назвав можливість використання передових моделей для кібератак на лікарні, банки та інші об'єкти критичної інфраструктури. ШІ вже спростив і прискорив кібератаки на енергетичну інфраструктуру, зробивши головною мішенню невеликі підприємства із застарілим обладнанням і слабким захистом. 

Особливе занепокоєння Бенжіо викликає так зване рекурсивне самовдосконалення — здатність систем ШІ самостійно прискорювати дослідження та створювати наступні покоління моделей без участі людини. За такого сценарію наявні протоколи й механізми безпеки компаній просто не встигатимуть за темпами розвитку технології.

«Це дуже небезпечно», — наголосив Бенжіо.

Дослідник попередив і про ризик концентрації найпотужніших моделей лише в кількох країнах, насамперед США та Китаї. На його думку, держави середньої величини мають сформувати «третю силу», яка сприятиме міжнародній співпраці та забезпечить етичний і безпечний розвиток штучного інтелекту. 

Минулого року Бенжіо також розкритикував комерційні перегони технологічних гігантів. Науковець наголосив, що гонитва за прибутками змушує компанії нехтувати безпекою, створюючи ризики екзистенційного масштабу — від сприяння розробці біологічної зброї до втрати контролю над розумнішими за людину системами. На тлі цих загроз дослідник заснував незалежну некомерційну організацію LawZero для створення безпечних моделей ШІ, ізольованих від ринкового тиску інвесторів.