Компанії самі це не вирішать: Обама розкритикував відсутність регулювання ШІ

Колишній президент США Барак Обама заявив, що світ наближається до переломного моменту в розвитку штучного інтелекту, коли технологія починає розвиватися експоненціальними темпами. На його думку, найбільшу небезпеку становить не сценарій “повстання машин”, а поєднання стрімкого технічного прогресу, комерційного тиску на компанії та відсутності належного державного регулювання. Про це він сказав під час зустрічі в Університеті Колгейт у штаті Нью-Йорк, відповідаючи на запитання про те, як демократії мають реагувати на розвиток ШІ.

“Я не вважаю, що навколо цієї технології здійнято невиправданий ажіотаж. Можливо, перебільшують комерційні вигоди від неї. Але сама технологія не є переоціненою”, — заявив Обама.

Рекурсивне самовдосконалення

Колишній президент вважає, що технологія входить у фазу рекурсивного самовдосконалення, адже частка самостійного навчання моделей швидко зростає порівняно з людським внеском, що веде до експоненційного розвитку. Ці побоювання збігаються з реальними показниками розробників: так, компанія Anthropic нещодавно повідомила, що її модель Claude вже веде 26% досліджень із розробки майбутніх поколінь ШІ проти 1% ще пів року тому.

Чому найбільший ризик — не “повстання машин”

Обама визнав, що гіпотетичний сценарій, у якому суперінтелект виходить з-під контролю людини, повністю виключати не можна. Водночас він підкреслив, що найбільше його турбують значно реалістичніші загрози.

Першою він назвав проблему узгодження цілей (alignment), коли система, навіть не маючи “злих намірів”, може виконати завдання катастрофічним способом. Як приклад Обама навів ситуацію, коли ШІ, отримавши команду максимізувати інвестиційний прибуток, може спричинити блекаут або іншу масштабну аварію, якщо алгоритм дійде висновку, що це допоможе досягти поставленої мети.

Другою небезпекою він назвав використання потужних моделей зловмисниками. За його словами, у майбутньому такі системи можуть допомагати створювати нові біологічні загрози, наприклад штами віспи з доступних компонентів, або використовуватися для атак на критичну інфраструктуру.

“Штучний інтелект — це інструмент. Це машина. Вона створена так, щоб справляти враження, ніби це щось більше, але насправді це просто машина”, — наголосив Обама.

Вплив ШІ на життя людей

Обама вважає, що економічні наслідки розвитку ШІ можуть виявитися масштабнішими, ніж багато хто очікує. За його словами, під загрозою опиняються висококваліфікована інтелектуальна праця. Як приклад він навів юридичні фірми, де молодших юристів дедалі частіше можуть замінити системи ШІ. 

Окремим викликом Обама назвав появу цифрових компаньйонів із механізмами психологічного звикання. На його думку, особливо небезпечно, якщо такі системи почнуть навмисно формувати залежність у дітей за аналогією з тим, як соціальні мережі утримують увагу користувачів. Раніше про це вже попереджав футуролог Ювал Ной Харарі, наголосивши на здатності алгоритмів імітувати емоційну близькість, маніпулювати психологічними вразливостями людини та докорінно трансформувати психіку наступних поколінь. 

Проблема агентного ШІ

Колишній президент згадав також так званий агентний ШІ — системи, які можуть виконувати завдання у відкритому цифровому середовищі, взаємодіючи з інтернетом, банківськими рахунками чи іншими сервісами від імені користувача. На його думку, саме вихід таких систем за межі контрольованого середовища створює нові ризики.

“Якщо ми розглядаємо ШІ лише як засіб для лікування раку чи отримання ефективніших джерел енергії, то цього можна досягти й без створення агентного ШІ, який вільно «блукає» інтернетом”, — заявив Обама.

Тиск мільярдних інвестицій

Колишній президент також звернув увагу на конфлікт між суспільними інтересами та комерційними цілями компаній, які розробляють ШІ. Він зазначив, що обсяги інвестицій у сферу ШІ вже перевищили витрати на програму “Аполлон”, тому компанії перебувають під сильним тиском швидко випускати продукти, здатні окупити вкладені гроші.

Уповільнення розвитку ШІ

Обама визнав, що рішення деяких провідних компаній тимчасово сповільнити розвиток найпотужніших моделей є корисним кроком. Водночас він наголосив, що добровільні обмеження бізнесу не можуть замінити повноцінне державне регулювання.

За словами Обами, ринок сам по собі не здатен гарантувати безпеку таких технологій, так само як цього не відбувається в авіації, фармацевтиці чи харчовій промисловості. Він також висловив занепокоєння тим, що темпи розвитку ШІ випереджають здатність влади створити належну нормативну базу.

“Нам вкрай важливо мати компетентний уряд і вести серйозний двопартійний діалог із цього питання — і робити це потрібно негайно. Я закликаю виборців звертати на це увагу. Якщо хтось не має серйозного плану дій у цій сфері, значить, ця людина не відповідає вимогам часу, і, мабуть, варто пошукати іншого кандидата”, — підсумував Обама.

Водночас президент США Дональд Трамп категорично відкинув заклики щодо запровадження регуляторних запобіжників або сповільнення розробки ШІ, назвавши побоювання про загрозу людству “фейком” і спробою позбавити Вашингтон першості в протистоянні з Китаєм. Глава Білого дому проголосив ШІ та дата-центри «нафтою наступних 20–25 років», заявивши, що перемога в технологічних перегонах гарантує глобальне домінування країни.