Штучний інтелект Claude знайшов проблеми у всіх найбільших технологічних продуктах світу

Генеральний директор Anthropic Даріо Амодеї та очільник JPMorgan Chase Джеймі Даймон провели дискусію про кіберзагрози, які несе штучний інтелект. Центральна теза Амодеї: ШІ вже здатен виявляти вразливості у програмному забезпеченні значно швидше, ніж компанії встигають їх усувати.

За словами Амодеї, у розпорядженні є лише від шести до дванадцяти місяців, щоб залатати десятки тисяч дірок, виявлених моделлю Mythos, — до того, як аналогічні інструменти стануть загальнодоступними. Захід відбувся в контексті виходу Anthropic на ринок фінансових послуг: компанія презентувала ШІ-агентів для роботи з інвестиційними презентаціями, аналізу звітності та комплаєнсу.

«Небезпека полягає у колосальному зростанні кількості вразливостей, витоків даних і фінансових збитків від атак програм-вимагачів на школи, лікарні — і вже потім на банки», — заявив Амодеї. Він також пояснив, чому компанія не оприлюднює знайдені вразливості публічно: якщо оголосити про них до виправлення, зловмисники скористаються цим першими.

Раніше під час тестування разом із Mozilla рання версія Mythos за один прохід виявила 271 вразливість у браузері Firefox — наочна демонстрація того, що ШІ здатен аналізувати великі кодові бази з недосяжною для людей швидкістю. У контрольованих умовах модель також самостійно, без участі людини, провела багатоетапні симуляції мережевих атак — від пошуку слабких місць до їх експлуатації. Anthropic обмежила доступ до Mythos вузьким колом партнерів у межах проєкту Glasswing.

Попри це дослідники вже показали, що ключові можливості Mythos можна відтворити за допомогою наявних моделей та інструментів із відкритим кодом. Це означає: подібні технології можуть поширитися швидше, ніж очікується. Водночас, за даними Axios, уряд США вже використовує Claude Mythos для сканування засекречених мереж на предмет вразливостей.

Всередині галузі застереження Амодеї зустріли зі скептицизмом. У квітні генеральний директор OpenAI Сем Альтман назвав побоювання навколо Mythos перебільшеними і звинуватив Anthropic у «маркетингу на страху» — підході, який, на його думку, слугує виправданням для збереження контролю над технологією у вузького кола «надійних» гравців. Амодеї на це прямо не відповів, натомість наголосивши, що закони мають застосовуватися однаково до всіх компаній.

Амодеї описує поточний момент як вузьке вікно можливостей, результат якого залежить від швидкості реакції. «Це момент небезпеки: якщо ми відреагуємо правильно — а перші кроки вже зроблено — то на іншому боці отримаємо кращий світ», — підсумував він. За його словами, кількість багів не нескінченна, і саме зараз є шанс їх знайти раніше за зловмисників.