“Втечі” ШІ-агентів знаменують нову еру кіберхаосу — WSJ

Починаючи з квітня, моделі штучного інтелекту від OpenAI та Anthropic, створені для здійснення хакерських атак, покинули корпоративні тестові середовища та проникли в реальні системи компаній у межах безпрецедентної серії кібератак. 

Ці моделі були найсучаснішими автономними хакерськими машинами, і жодна з компаній не помітила їх “втечі” аж до минулого тижня, коли OpenAI повідомила про кібератаку на компанію Hugging Face, що спеціалізується на ШІ, яка сталася в липні. Перевіривши власні випробування, компанія Anthropic днями заявила, що виявила три випадки таких хакерських атак, пише WSJ.

Ці інциденти викликали занепокоєння серед законодавців, а також стали моментом, що відкрив очі співробітникам лабораторій ШІ.

“Це перший інцидент з безпекою, який я відчув дуже гостро”, — сказав генеральний директор OpenAI Сем Альтман, назвавши це “кіберінцидентом, який нагадує наукову фантастику”.

Для експертів з кібербезпеки це свідчить про посилення можливостей зловмисників і дає дедалі більше підстав для занепокоєння. Для експертів з безпеки штучного інтелекту це підтверджує те, про що вони попереджали весь час: системи штучного інтелекту можуть завдавати реальної шкоди та ухилятися від спроб їх контролю.

“Це трохи підбадьорює — бачити, як усе відбувається в реальних умовах”, — сказав виконавчий директор некомерційної лабораторії штучного інтелекту Palisade Research Джеффрі Ладіш.

Ладіш зазначив, що часто сперечається в інтернеті з людьми, які стверджують, ніби він просто вірить у наукову фантастику. 

“Я сподіваюся, що наші прогнози перестануть збуватися”, — додав він.

Однією з ознак того, що Білий дім посилює нагляд за штучним інтелектом, є те, що адміністрація президента США Дональда Трампа завершила розробку рамок, які визначають, які моделі ШІ підлягатимуть перевірці федерального уряду перед їхнім публічним випуском, повідомив представник Білого дому. За його словами, тривають обговорення з компаніями щодо того, як проводити добровільне тестування.

Після років невпевненої роботи моделі штучного інтелекту восени минулого року досягли прориву, коли стали помітно краще виявляти помилки та проходити кібертести. Однак реальних даних про їхні можливості було небагато.

Тепер ситуація змінилася.

“З ретроспективи ці інциденти, ймовірно, будуть розглядатися як переломні моменти у способах дій зловмисників”, — вважає технічний директор компанії Abundant Security, що спеціалізується на безпеці штучного інтелекту, Джошуа Сакс.

OpenAI зобов’язалася провести повний аналіз та оприлюднити технічний звіт про кібератаку. 

Торік у грудні дослідники Стенфордського університету за допомогою найсучасніших технологій штучного інтелекту продемонстрували, що моделі ШІ досягають рівня хакерської майстерності, близького до людського, у реальній мережі.

Дослідження викликало критику з боку професійних хакерів, яких наймають корпорації для проникнення у власні мережі з метою виявлення вразливостей.

“Тоді наші результати поставили під сумнів”, — сказав один із дослідників проєкту Донован Джаспер. 

Джаспер розглядає відкриття компаній Anthropic та OpenAI як підтвердження попередніх досліджень своєї команди. 

“Штучний інтелект стає справді вправним у таких речах”, — зазначив він.

Найбільше занепокоєння вчених зі Стенфорда під час тестувань викликало те, що їхні хакерські моделі могли б якимось чином зробити те, чого від них не очікували. 

“Протягом усього часу роботи моделі за нею спостерігала принаймні один людина”, — додав він.

Hugging Face виявилася не готовою до кібератаки з боку моделей OpenAI. Компанія спробувала використати Claude для аналізу величезного обсягу даних, згенерованих агентами OpenAI, але модель Anthropic відмовилася проводити аналіз, посилаючись на міркування безпеки.

Hugging Face змогла використати для аналізу моделі з відкритими вагами, які можна запускати на системах, контрольованих користувачами. Однак, за словами власника консалтингової фірми з кібербезпеки R10N Security Раяна Макгіхана, багато компаній навіть не мають належних інструментів для аналізу ШІ-атак.

“Традиційні команди з безпеки, які не орієнтовані на штучний інтелект, залишаться позаду”, — зазначив він.

Хакерські атаки агентного ШІ діють не так, як люди, зазначив Макгіган. 

“Вони діють глибше, охоплюють ширше коло, діють складніше та інтенсивніше”, — сказав він.

Ці хакерські атаки посилюють тиск на адміністрацію президента США Дональда Трампа з метою вжиття додаткових заходів для усунення ризиків у сфері безпеки, пов’язаних із ШІ.

Трамп намагається знайти золоту середину, щоб мінімізувати ризики, пов’язані з потужними моделями штучного інтелекту, водночас дозволяючи галузі конкурувати з китайськими компаніями, що стрімко вдосконалюються. 

“Ми маємо бути обережними в обох напрямках. Ми не хочемо їх обмежувати, щоб раптом не опинитися на другому місці після Китаю”, — сказав він цього тижня.

Головний науковий співробітник компанії Kurzweil Technologies Джон-Кларк Левін очікує, що найближчими місяцями трапиться більше подібних інцидентів і це змусить дедалі більше законодавців та користувачів ШІ звернути увагу на безпеку штучного інтелекту.

За словами Левіна, важливо, аби заходи безпеки щодо ШІ були обов’язковими, а не добровільними, як це передбачала адміністрація Трампа.

“Ми не хочемо опинитися в ситуації, коли будемо залежати від того, чи вирішать компанії чинити правильно з доброї волі”, — додав Левін.

Стрімкий розвиток штучного інтелекту змушує провідних дослідників дедалі серйозніше говорити про сценарій, за якого ШІ зможе самостійно створювати наступні покоління власних моделей. Такий процес, відомий як “рекурсивне самовдосконалення”, може кардинально змінити темпи розвитку технологій і поставити питання про межі людського контролю, писав The Economist. Деякі експерти вважають це шляхом до наукового прориву, інші попереджають про безпрецедентні ризики для суспільства. 

Зі зростанням автономності ШІ-моделей люди можуть поступово втрачати контроль над процесом їхнього розвитку. Ризики можуть варіюватися від концентрації надмірної влади в руках власників найпотужніших систем до появи моделей, які діятимуть без урахування людських інтересів. Саме тому дедалі більше дослідників закликають розробляти механізми контролю ще до того, як технологія досягне точки самостійного розвитку.