Суд дозволив Пентагону заблокувати Anthropic через обмеження Claude

Апеляційний суд округу Колумбія у США 25 вересня постановив, що Міністерство оборони мало законні повноваження внести технології Anthropic до переліку постачальників, які становлять ризик для ланцюга постачання. Про це пише ARStechnica.

Чому Пентагон вирішив заблокувати Anthropic?

Рішення ухвалила колегія з трьох суддів із рахунком 2 – 1. Суд розглядав складне питання про те, наскільки американські військові можуть покладатися на потужні системи штучного інтелекту, якщо розробник заздалегідь обмежує частину їхніх можливостей.

Конфлікт між Anthropic та адміністрацією Дональда Трампа виник через правила використання Claude. Компанія не погоджувалася дозволити застосування своїх моделей для деяких військових завдань, зокрема для автономного застосування летальної сили та масового стеження за американцями.

У березні Anthropic подала позов проти адміністрації США після того, як федеральний уряд наказав державним установам припинити використання її продуктів, а оборонним підрядникам – не вести бізнес із компанією.

Тепер апеляційний суд підтримав позицію Пентагону. Судді зазначили, що адміністрація мала право враховувати ризик того, що обмеження Anthropic можуть перешкодити використанню Claude у військових операціях.

Суд визнав ризиком не лише можливий злом

Ключова суперечка у справі стосується значення поняття "ризик для ланцюга постачання".

Anthropic стверджувала, що відповідне законодавство стосується насамперед ситуацій, коли постачальник або інша сторона навмисно намагається саботувати систему, викрасти дані або іншим способом завдати шкоди урядовій інфраструктурі.

Однак більшість суддів апеляційної інстанції використала інше трактування законодавства. Суд звернув увагу на те, що одна з норм, 41 U.S.C. § 4713, визначає потенційний ризик ширше. У ній йдеться про можливість того, що "будь-яка особа" може змінити роботу технологічного продукту таким чином, щоб спостерігати за ним, блокувати, порушувати або іншим чином маніпулювати його функціонуванням.

Саме слово "будь-яка", за логікою суду, означає, що норма не обмежується іноземними противниками або сторонами, які мають ворожі наміри.

Судді також звернули увагу на слово "заперечувати" або "deny". На їхню думку, воно може стосуватися ситуації, коли Anthropic не дозволяє американському уряду використовувати окремі можливості Claude.

Зрештою, ми дійшли висновку, що занепокоєння міністра щодо того, що Anthropic відключає можливість Claude виконувати законні дії, яких вимагає Міністерство оборони, відповідає поняттю 'ризику для ланцюга постачання' у значенні статті 4713, – йдеться у рішенні більшості суддів.

Апеляційний суд також заявив, що Міністерство оборони обґрунтовано побоювалося, що Anthropic може змінити Claude так, щоб модель не виконувала функції, які військове відомство вважає дозволеними за контрактом і необхідними для національної безпеки.

Чи йдеться про навмисну загрозу з боку Anthropic?

Ні. І саме це є одним із центральних моментів рішення.

Суд прямо зазначив, що погоджується з висновками іншого федерального суду: Anthropic не діяла зі злим умислом у відносинах із Міністерством оборони. Водночас апеляційна інстанція вирішила, що для застосування ширшої норми закону та визнання компанії ризиком для ланцюга постачання такий умисел взагалі не є необхідним.

"Ми не заперечуємо висновок Північного округу про те, що використання терміна 'противник' разом із такими словами, як 'саботувати', 'зловмисно впроваджувати' та 'іншим чином підривати', свідчить про необхідність недобрих намірів для застосування статті 3252. Так само ми не заперечуємо висновок Північного округу про те, що Anthropic не мала таких недобрих намірів у відносинах із Міністерством", – зазначили судді.

Але, за їхньою позицією, інша законодавча норма має ширше визначення і не вимагає доведення навмисної шкоди.

Чому суди винесли різні рішення?

Цікаво, що два американські суди вже розглядали фактично один і той самий конфлікт і дійшли різних висновків.

Минулого місяця федеральний суд Північного округу Каліфорнії визнав дії адміністрації США незаконними. Суддя Ріта Лін, призначена Джо Байденом, вирішила, що Anthropic не відповідає критеріям постачальника, який створює ризик для ланцюга постачання.

Її рішення ґрунтувалося на статті 10 U.S.C. § 3252. Вона передбачає значно вужче поняття ризику, пов'язуючи його з діями противника, який може саботувати систему, зловмисно додати небажану функцію або іншим способом підірвати її роботу.

Апеляційний суд не заперечив основний висновок цього суду щодо статті 3252. Однак проблема полягала в тому, що американський уряд одночасно застосував до Anthropic іншу норму – 41 U.S.C. § 4713. Саме її цього разу аналізував Апеляційний суд округу Колумбія.

За цією нормою суд отримав виключну юрисдикцію для перегляду відповідних рішень у сфері державних закупівель. І її формулювання виявилося значно ширшим.

Таким чином, два судові рішення не обов'язково прямо суперечать одне одному в трактуванні одного й того самого положення. Вони стосуються різних законодавчих підстав, які уряд використав для внесення Anthropic до списку ризикованих постачальників.

Судді сперечаються про межі закону

Окрему думку у справі висловила суддя Карен Гендерсон, яка не погодилася з рішенням більшості.

Вона вважає, що слова, використані в статті 4713, потрібно розглядати в контексті всього закону. На її думку, вони стосуються навмисного блокування роботи технологічного продукту або стеження за ним після того, як він потрапив до федерального ланцюга постачання.

Гендерсон нагадала, що Конгрес ухвалив цю норму після закликів американської розвідки протистояти загрозі з боку "ворожих держав та інших зловмисників", які можуть проникати в інформаційні й технологічні системи федерального уряду через ланцюги постачання. Тому, на її думку, закон не варто трактувати настільки широко, щоб він поширювався на компанію, яка відкрито та чесно встановлює обмеження на використання власного продукту.

У чому полягав конфлікт навколо Claude?

Anthropic закладає в Claude обмеження, які не дозволяють моделі виконувати певні завдання.

Апеляційний суд зазначив, що ці обмеження вже неодноразово заважали Claude виконувати запити державних користувачів. Крім того, виникла суперечка щодо того, чи дозволяють контрактні правила використовувати Claude в одній із поточних закордонних військових операцій.

У результаті Міністерство оборони опинилося в ситуації, коли не могло бути впевненим, що система виконає необхідну дію саме тоді, коли це буде потрібно.

Саме ця залежність військової операції від рішень приватного розробника стала важливою частиною аргументації уряду. Судді описали проблему як баланс між двома потенційними ризиками. З одного боку, надмірно обмежена модель може несподівано відмовитися виконувати необхідну військову функцію. З іншого – система без достатніх обмежень може генерувати неприйнятні цілі для застосування летальної сили.

У рішенні це сформульовано так:

"Сполучені Штати порушують глибоко тривожне питання про те, що надмірно обмежені моделі ШІ можуть несподівано припинити роботу і таким чином спричинити провал важливих військових операцій. Anthropic порушує не менш тривожне питання про те, що необмежені моделі ШІ можуть вигадувати неприйнятні цілі для застосування летальної військової сили".

Суд зазначив, що саме адміністрація США та міністр оборони Піт Гегсет мають визначати, як балансувати між цими ризиками.

Anthropic може продовжити судову боротьбу

Компанія вже заявила, що не погоджується з рішенням апеляційного суду.

"Ми з повагою не погоджуємося з рішенням суду. Інший федеральний суд уже визнав незаконним паралельне рішення уряду. Ми й надалі впевнені у своїй позиції та розглядаємо всі можливості, включно з подальшим переглядом справи", – заявив представник Anthropic CNBC.

Компанія може попросити весь склад суддів Апеляційного суду округу Колумбія провести повторний розгляд справи або звернутися до Верховного суду США.

Водночас конфлікт між Anthropic та адміністрацією Трампа вже не виглядає настільки однозначним, як на початку судової суперечки. Міністр торгівлі США Говард Латнік раніше заявляв, що уряд і Anthropic змогли відновити робочі відносини та перебувають "на одній хвилі".

Поки що рішення апеляційного суду означає, що Пентагон отримав судове підтвердження своїх повноважень щодо блокування технологій Anthropic на підставі ширшого трактування законодавства про ризики ланцюга постачання. Водночас інше федеральне рішення, яке визнало дії адміністрації незаконними за іншою законодавчою нормою, залишається важливою частиною цієї юридичної суперечки.