Провідні розробники ШІ звільняються з компаній: чого насправді бояться творці нейромереж

Відомий фахівець в галузі нейромереж Джейкоб Коксон залишив компанію Anthropic після 3 років активного навчання нових моделей штучного інтелекту. Він звинуватив свого колишнього роботодавця та розробників системи ChatGPT з OpenAI у вкрай безвідповідальному ставленні до глобальної безпеки.

Про ці моторошні попередження науковця повідомляє видання Daily Mail.

Загроза штучного суперінтелекту

Експерт пояснив, що суперінтелект виникає тоді, коли штучна система стає могутнішою за будь-яку окрему людину, корпорацію чи державу. Такі надлюдські програми зможуть миттєво зламати всі системи захисту та захопити реальну владу і ресурси на планеті.

«Люди, які створюють штучний інтелект, щиро вірять, що він може вбити нас усіх до кінця цього десятиліття», — заявив Джейкоб Коксон.

За словами науковця, ця загроза не є маркетинговим трюком, адже багато топменеджерів висловлюють подібні страхи у приватних розмовах. Керівництво Anthropic чудово розуміє цю небезпеку, однак бере участь у неконтрольованій гонці, щоб досягти результату першими.

Попередження для розробників

Як приклад реальної небезпеки дослідник навів злам платформи Hugging Face штучним інтелектом від OpenAI. Цей інцидент показав необхідність укладання строгих угод між американськими лабораторіями, аж до тимчасової заборони на вдосконалення моделей.

«Джейкоб правий — ми дійсно щиро віримо, що штучний інтелект може вбити всіх людей», — підтвердив керівник відділу безпеки Anthropic Еван Хабінгер.

Глобальний ризик вимирання

Цей фахівець оцінює ймовірність такого катастрофічного сценарію у понад 10 відсотків вже протягом найближчих 10 років. Водночас компанія Anthropic досі не має чіткого плану щодо безпечного узгодження дій майбутнього суперінтелекту з інтересами людства.

«Втрата контролю над розумнішим за нас штучним інтелектом може бути катастрофічною і навіть призвести до вимирання людства», — попередив канадський дослідник Джеффрі Хінтон.

Ці гучні заяви пролунали на тлі великого політичного скандалу у Великій Британії. Стало відомо, що компанія Anthropic відмовилася надати свою розробку для тестування Інституту безпеки штучного інтелекту через прямий тиск з боку адміністрації президента США Дональда Трампа.