Що таке Mythos від Anthropic: інструмент кібербезпеки, який сам став загрозою

Компанія Anthropic обмежує доступ до нової моделі штучного інтелекту Mythos через ризики зловживання. Інструмент здатний виявляти критичні вразливості швидше за людей та автоматизовані системи. Експерти попереджають, що це може пришвидшити глобальні перегони кіберозброєнь, передає Bloomberg.

Обмежений доступ до Mythos через ризики безпеки

Anthropic заявила, що нова модель штучного інтелекту Mythos не буде доступна широкій аудиторії. Рішення пояснюють високим рівнем потенційного зловживання інструментом у сфері кібербезпеки.

Компанія планує надавати доступ лише обмеженому колу перевірених партнерів у межах окремого проєкту. Його мета — використання моделі виключно для оборонних завдань і тестування безпеки систем.

Виявлення несанкціонованого доступу до моделі

Одразу після початку тестування Mythos зафіксовано інцидент несанкціонованого доступу. Невелика група користувачів отримала доступ до моделі через приватний онлайн-форум. Це сталося в день оголошення планів щодо обмеженого запуску інструмента. 

Anthropic зазначає, що подібні інструменти можуть стати зброєю для зловмисників, дозволяючи красти дані або атакувати критичну інфраструктуру. Поява Mythos, як і аналогічних моделей, сигналізує про новий етап у розвитку кіберзагроз — швидший і менш передбачуваний.

Технічні можливості Mythos і рівень загрози

Claude Mythos Preview позиціюється як модель загального призначення з покращеними можливостями у кодуванні та логічному аналізі. За оцінками Anthropic, вона значно перевищує попередні системи за низкою технічних показників.

Модель здатна самостійно знаходити вразливості в програмному забезпеченні без значного втручання людини. Це включає як відомі, так і невідомі раніше помилки в коді.

Масштаб виявлених вразливостей

За даними компанії, Mythos вже виявив тисячі вразливостей типу “нульового дня”. Такі помилки є особливо небезпечними, оскільки не мають готових виправлень на момент виявлення.

Серед знайдених проблем — недоліки в популярних веббраузерах та операційних системах. Окремо зазначається, що деякі з них залишалися невиявленими протягом десятиліть.

Anthropic називає появу Mythos “переломним моментом для безпеки”. За даними компанії, модель вже виявила навіть 27-річну вразливість в операційній системі OpenBSD, яка вважалася однією з найбільш захищених.

Потенційна небезпека експлуатації знайдених вразливостей

Anthropic повідомляє, що Mythos не лише знаходить слабкі місця, а й може формувати на їх основі робочі експлойти. Це означає можливість практичного використання вразливостей для атак на системи.

У тестах модель поєднувала кілька недоліків у ядрі Linux, що дозволяло отримати повний контроль над системою. Такі можливості суттєво підвищують ризики кібератак.

В одному з тестів модель змогла обійти обмеження ізольованого середовища та спробувала отримати доступ до інтернету. Це підсилює побоювання щодо можливих неконтрольованих сценаріїв її використання.

Project Glasswing і коло партнерів

Для контрольованого використання Mythos створено ініціативу Project Glasswing. До неї залучено великі технологічні компанії, фінансові установи та організації з кібербезпеки.

Серед учасників — Amazon, Apple, Google, Microsoft, Nvidia, Cisco, Palo Alto Networks, CrowdStrike, JPMorganChase та Linux Foundation. Вони застосовуватимуть модель для виявлення слабких місць у своїх системах.

Роль Mythos у кіберзахисті компаній

Компанії вже використовують практики penetration testing для пошуку вразливостей. Mythos може автоматизувати і пришвидшити цей процес, збільшуючи кількість виявлених помилок.

Anthropic заявляє, що результати проєкту будуть частково відкриті для галузі. Це має допомогти іншим компаніям підвищити рівень кіберзахисту.

Питання незалежної перевірки і ефективності

Дослідники зазначають, що поки не мали доступу для повної незалежної перевірки можливостей Mythos. Це ускладнює об’єктивну оцінку заявленої продуктивності. Експерти наголошують на необхідності практичного тестування в реальних умовах — без цього складно визначити фактичний рівень ризику і користі моделі.

Потенційна перевага захисників і ризик для інфраструктури

Anthropic вважає, що Mythos може надати перевагу оборонній кібербезпеці. Водночас компанія визнає, що наразі хакери також активно використовують ШІ.

“Ми бачили, як вони (захисні зоходи) досягли безпрецедентного рівня надійності та узгодженості. Однак, у рідкісних випадках, коли вони давали збій або поводилися дивно, ми бачили, як вони вживали заходів, які нас досить непокоїли”, — заявили в Anthropic.

Експерти попереджають, що час на реагування на нові вразливості скорочується. Головний виконавчий директор Palo Alto Networks Нікеш Арора попередив у блозі, що бар'єр для складних атак продовжуватиме зменшуватися протягом наступних шести місяців, він додав: “Один поганий актор тепер зможе проводити кампанії, які вимагали цілих команд”.

Поточні обмеження та довгострокові очікування

Наразі виправлено менше ніж 1% виявлених Mythos вразливостей. Це свідчить про розрив між швидкістю виявлення та здатністю усувати проблеми.

Anthropic очікує, що в майбутньому такі моделі підвищать загальний рівень безпеки програмного забезпечення. Водночас компанія визнає, що перехідний період буде складним та ризикованим.

“У довгостроковій перспективі ми очікуємо, що оборонні можливості домінуватимуть: світ стане безпечнішим, а програмне забезпечення буде краще захищене — значною мірою завдяки коду, написаному цими моделями. Але перехідний період буде напруженим”, — підсумувала команда Anthropic Frontier Red у блозі.

Наразі Агентство національної безпеки США (АНБ) використовує Mythos попри те, що Міністерство оборони вважає її “ризиком ланцюга постачань”. Як саме АНБ застосовує Mythos невідомо, однак інші організації за допомогою моделі шукають вразливості у власних системах кібербезпеки.