Білий дім заборонив Anthropic масштабувати ШІ Mythos — WSJ

Білий дім виступив проти плану компанії Anthropic розширити доступ до моделі штучного інтелекту Mythos. Цей інструмент уже викликав занепокоєння через потенційні кіберзагрози. Рішення ускладнює подальше розгортання технології та підкреслює напружені відносини сторін, повідомляє The Wall Street Journal.

Адміністрація США заборонила Anthropic надавати доступ до Mythos ще приблизно 70 організаціям, що збільшило б їхню загальну кількість до близько 120. За даними джерел WSJ, чиновники вказали на ризики для безпеки та висловили сумніви щодо здатності компанії забезпечити необхідні обчислювальні ресурси. У Білому домі побоюються, що масштабування доступу може вплинути на ефективність використання моделі державними структурами. 

Причиною особливої уваги до Mythos стали її можливості виявляти та використовувати вразливості програмного забезпечення. За останні тижні ці функції вразили як державні установи, так і приватні компанії, що також посилило занепокоєння щодо потенційних кібератак.

Anthropic надала доступ до Mythos приблизно 50 організаціям, переважно з сектору критичної інфраструктури. Публічного запуску моделі компанія не планує, хоча окремі державні установи вже використовують систему.

“Адміністрація врівноважує інновації та безпеку, співпрацюючи з приватним сектором, щоб переконатися, що моделі штучного інтелекту безпечно розгортаються”, — заявив представник Білого дому.

Додаткове занепокоєння викликало повідомлення Anthropic про розслідування можливого несанкціонованого доступу до Mythos. Крім того, адміністрація критикує компанію за зв’язки з організаціями, що підтримують більш жорстке регулювання ШІ, а також за присутність у команді колишніх чиновників попередньої адміністрації. 

Аналітики зазначають, що протистояння є малоефективним для обох сторін. Зокрема, експерти наголошують на необхідності співпраці у сфері кібербезпеки на тлі зростання можливостей сучасних ШІ-моделей.

Минулого тижня генеральний директор Anthropic Даріо Амодей зустрічався з керівницею апарату Білого дому Сьюзі Вайлз у Західному крилі для обговорення ризиків Mythos та можливого покращення відносин. Проте відмова у розширенні доступу свідчить, що напруження між сторонами зберігається, попри спроби примирення.

Ситуацію ускладнює конфлікт між компанією та урядом, що розпочався після того, як Амодей відмовив у використанні ШІ компанії в автономній зброї та масовому стеженні за людьми. Згодом міністр оборони Піт Хегсет офіційно визнав Anthropic ризиком для ланцюга постачання, що фактично заблокувало використання її продуктів у контрактах Пентагону й не тільки. Anthropic намагається оскаржити це рішення в суді, проте наразі він підтримав позицію Пентагону.