Регулювання штучного інтелекту у військовій сфері: обмеження чи заохочення?

Було б дивно, якби технологічні можливості ШІ не застосовувалися у військовій сфері. Як стверджує впливове британське видання The Economist, ШІ змінює кожен аспект війни. На жаль, Україна сьогодні перевіряє це на собі.

Дослідники ринків озброєнь із застосуванням ШІ називають десять видів його використання у військових цілях: автономні системи озброєння, спостереження та рекогносцировка, розпізнавання та класифікація цілей, аналіз і прогнозування загроз, логістика та управління ланцюгами постачання, захист кібербезпеки, радіоелектронна боротьба, симуляція й навчання, медична діагностика та лікування, системи підтримки прийняття рішень.

Проблема застосування ШІ у військовій сфері спонукає держави до спільних рішень щодо регулювання норм «м’якого» міжнародного права. На саміті «Відповідальний штучний інтелект у військовій сфері» (REAIM 2023), який відбувся 15 і 16 лютого 2023 року в Гаазі, було ухвалено Політичну декларацію про відповідальне використання ШІ та автономії у військових цілях, спрямовану на формування міжнародного консенсусу щодо відповідальної поведінки та державного управління розробленням, розгортанням і використанням військового ШІ. Станом на 12 лютого декларацію підтримали 54 держави, зокрема країни G7 і Україна.

Продовжимо дослідження досвіду країн-лідерів у застосуванні ШІ, яке ми розпочалираніше.

США

Першу Стратегію Міністерства оборони щодо ШІ було розроблено 2018 року й оприлюднено в лютому 2019-го (оновлено 2020 року). Стратегія охопила такі теми, як стратегічні цілі, стратегічний підхід і стратегічні напрями, й була орієнтована на підвищення ефективності використання сучасних можливостей ШІ.

Міноборони США не оминуло увагою й навчання військових, підготувавши Стратегію навчання військовослужбовців у відповідних сферах ШІ. Її основна мета — «прискорене впровадження можливостей штучного інтелекту в масштабі».

А вже 2 лютого 2022 року Міноборони оприлюднило Стратегію модернізації програмного забезпечення. Мотив її розроблення був цілком простий: «Щоб створити більш смертоносну силу, потрібна здатність розвиватися швидше й бути адаптивнішими, ніж наші противники».

В березні 2023 року в США ухвалили Національну стратегію кібербезпеки. Ось що говорилося в її тексті про мотиви її ухвалення: «Уряди Китаю, Росії, Ірану, Північної Кореї та інших автократичних держав із ревізіоністськими намірами агресивно використовують передові кіберможливості для досягнення цілей, що суперечать нашим інтересам і загальноприйнятим міжнародним нормам».

21 лютого 2024 року на симпозіумі «Переваги Міністерства оборони 2024 року: оборонні дані та штучний інтелект», який відбувся у Вашингтоні, округ Колумбія, заступниця міністра оборони США Кетлін Гікс виступила з доповіддю на тему «Глобальне суперництво у сфері ШІ».

В доповіді названо найважливіші чинники, що спонукають Міноборони США приділяти екстраординарну увагу розвитку ШІ. Перший чинник — необхідність застосовувати цю технологію, яка дає «ще більшу перевагу під час прийняття рішень, ніж США мають сьогодні, з огляду на виклик, що постає перед нами з боку Китайської Народної Республіки».

Другий чинник — масштаби менеджменту. Кетлін Гікс порівняла Міністерство оборони США з «найбільшим у світі підприємством», яке має в управлінні «майже 3 мільйони людей на заробітній платі; систему охорони здоров’я, що обслуговує понад 9 мільйонів військовослужбовців, пенсіонерів і членів сімей; і активи по всьому світу, розкидані на 25 мільйонів акрів, що приблизно дорівнює площі штату Кентуккі. Вартість активів Міністерства оборони в усьому світі вища, ніж у Amazon, Apple, Microsoft і Walmart разом узятих». Саме тому необхідно використовувати дані та ШІ, щоб бути «розумнішими, швидшими та кращими розпорядниками коштів платників податків».

Чотири різні групи цифрових технологій, штучного інтелекту й аналітики були об’єднані в Міноборони США вже 2022 року під керівництвом Головного управління цифрового та штучного інтелекту (CDAO), відповідального за прискорення впровадження даних, аналітики та ШІ в Міноборони. Управління було створено шляхом злиття Об’єднаного центру штучного інтелекту (JAIC) і цифрових служб оборони (DDS), які діяли раніше.

Ключовим завданням CDAO є регулювання та масштабування випадків спільного використання інструментів, що містять ШІ, включно з виконавчою аналітикою для вимірювання прогресу в реалізації стратегії національної оборони, загальною оперативною картиною для бойових командувачів від оперативного до стратегічного рівня в межах ініціативи Advancing Data and AI (ADA), а також найкращими інструментами й аналітикою для допомоги вищому керівництву та бойовим командирам у динамічній кампанії.

14 листопада 2023 року CDAO оприлюднило Інструментарій відповідального штучного інтелекту (RAI), який є ключовим результатом Стратегії та шляху впровадження відповідального ШІ (RAI S&I Pathway) Міністерства оборони США, підписаної в червні 2022 року.

В RAI S&I Pathway описано аж 64 напрями докладання зусиль для впровадження етичних принципів ШІ саме в Міністерстві оборони, включно з розробленням технічних інструментів і вказівок, які допоможуть його персоналу проєктувати, розробляти, розгортати та відповідально використовувати системи ШІ.

Велика Британія

У Великій Британії — як у всіх інших випадках — ухвалення державних рішень стосовно військового застосування ШІ відбувається відповідно до принципу належного врядування. Система стратегічних і регуляторних документів будується за строгою ієрархією і за результатами консультацій із представницькими органами державної влади, експертами, які мають реальний успішний багаторічний досвід реалізації проєктів у відповідній сфері. Процедури підготовки документів виконуються максимально прозоро для суспільства.

Зокрема в межах національного стратегічного порядку і стратегій ухвалено один документ рівня «всеосяжний», два — стосовно питань цифровізації і один — стосовно ШІ. Міноборони затвердило чотири документи рівня «всеосяжні», дев’ять стосовно цифровізації і один стосовно ШІ. І, зрештою, Командування Британської армії затвердило два документи рівня «всеосяжні», один — стосовно цифровізації і один — стосовно ШІ.

Так, у жовтні 2023 року з урахуванням саме такої структури Британська армія оприлюднила стратегічний документ, що мав назву «Підхід Британської армії до штучного інтелекту. Посібник для прискорення впровадження штучного інтелекту в армії та підготовки армійського штучного інтелекту», в якому було описано, як армія планує стати «готовою до штучного інтелекту» вже до квітня 2024 року.

Цей документ додається до Інтегрованої операційної концепції від вересня 2020 року, Цифрової стратегії оборони 2021 року й Стратегії даних для оборони, Стратегії оборонного штучного інтелекту від червня 2022 року та встановлює практичне виконання Плану армійської цифрової інформації та даних на 2023–2025 роки, опублікованого в квітні 2023 року. Окрім навичок, етики та внутрішнього лідерства й управління даними, стратегія охоплює участь армії в приватному секторі.

Для реалізації програм ШІ в оборонній сфері Великої Британії 2021 року було створено Центр штучного інтелекту Міноборони, який працює в тісному зв’язку з трьома іншими підрозділами. Серед них виділяється організація Defense Digital, яка відповідає за передавання військовим ефективних цифрових та інформаційних технологій. DD має річний бюджет понад 2 мільярди фунтів стерлінгів і команду з приблизно 2400 співробітників, включно з військовими, державними службовцями та підрядниками, й діє на підставі Цифрової стратегії оборони. Підрозділ «Оборонне обладнання та підтримка» (DE&S) створений як незалежний орган Міноборони 2014 року з унікальними правами управління, делегованими Казначейством Її Величності та Кабінетом міністрів. Підрозділ діє в умовах чотирьох основних стратегічних викликів: вторгнення Росії в Україну, зростання економічної, військової й технологічної сили Китаю, цифрова війна та зміни клімату. Лабораторія оборонної науки і технологій (Dstl) є виконавчим агентством Міноборони, що надає досвід світового рівня та забезпечує передову науку й технології на благо нації та союзників.

І ще одна свіжа новина, яка може зацікавити деяких народних депутатів у Верховній Раді. 14 грудня 2023 року Комітет оборони британського парламенту створив підкомітет зі ШІ у сфері оборони, який, зокрема, опікується такими питаннями:

1) Наскільки чітко Міноборони визначило пріоритети щодо можливостей і досвіду ШІ, якими, на його думку, має володіти оборонний сектор Великої Британії, які саме пріоритети воно визначило та чи можливо їх виконати?

2) Які сильні сторони й досвід наразі має британська промисловість у сфері ШІ з оборонними застосунками?

3) В який спосіб уряд Великої Британії може якнайкраще розвивати спроможність і досвід у вітчизняній промисловості в таких секторах, як інженерія та програмне забезпечення для підтримки розроблення й доставки застосунків ШІ в обороні?

4) Що може зробити уряд, аби допомогти включити британські компанії ШІ в ланцюги постачання оборонної продукції як усередині країни, так і за кордоном?

У парламенті Великої Британії вже встигли ґрунтовно дослідити деякі з цих питань.

Китай

Як США, так і Велика Британія найзагрозливішою тенденцією для світової безпеки вважають зростання економічного, політичного та військового впливу Китаю. Це стосується й розвитку можливостей Китаю в застосуванні ШІ у військовій сфері.

Факт: Китай узяв участь у самітах і підписав два необов’язкові юридичні документи, ухвалені в межах великих міжнародних самітів: Політичну декларацію про відповідальне використання штучного інтелекту та автономії у військових цілях (Нідерланди, 2023) і Декларацію Блетчлі, узгоджену на саміті з питань безпеки ШІ у Великій Британії (2023).

З висновків експерта Інституту дослідження війни Меттью МакІнніса в дослідженні «Росія і Китай: погляд на майбутнє війни»: «Зусилля Китаю щодо військової модернізації спрямовані на досягнення домінування в ухваленні рішень за допомогою тристороннього підходу: доктринальна трансформація та ідеологічна жорсткість; використання передових технологій для формування характеру сучасних конфліктів; інноваційні методи навчання, щоб компенсувати брак бойового досвіду під час війни».

До того ж наявна інформація про контакти на найвищому рівні між Китаєм і Росією уже в лютому 2024 року щодо співробітництва в розвитку ШІ у військовій сфері додає ще більше занепокоєння.

У звіті китайських дослідників Fei Su та Jingdong Yuan, які працюють у Європі, «Китайське «мислення щодо інтеграції штучного інтелекту та взаємодії з ядерним командуванням та управлінням, структурою сил та ухваленням рішень» повідомляється, що за останні роки Китай оприлюднив два ключові позиційні документи щодо ШІ та пов’язаних із ним ризиків: Позиційний документ 2021 року щодо регулювання військового застосування штучного інтелекту та Позиційний документ 2022 року щодо зміцнення етичного управління штучним інтелектом. Ключові висновки дослідників щодо цих двох документів такі:

1) З огляду на прискорення темпів інтеграції Китаєм ШІ до військових систем малоймовірно, що Китай запропонує будь-яке регулювання, що обмежувало б розвиток військового ШІ.

2) У документах окреслено протидію використанню ШІ для підриву суверенітету Китаю й територіальної безпеки. Це — червона лінія в позиції Китаю щодо використання ШІ.

3) Наголошено на важливості втручання людини в системи озброєння — ШІ завжди має бути під контролем людей.

З урахуванням особливостей управлінських методів на рівні держави, можна стверджувати, що небезпека амбіцій Китаю в застосуванні ШІ у військовій сфері є цілком реальною.

На нашу думку, також важливо звертати особливу увагу на активізацію інтересу до застосування ШІ у військовій сфері в таких державах, як Іран і Північна Корея. Росія, яка з 2022 року використовує елементи ШІ у війні з Україною, того ж року заявила про створення підрозділу ШІ в управлінні інноваційного розвитку Міноборони. Тенденції використання Росією ШІ у військовій сфері стрімко прискорюються.

Україна

Україна на рівні окремих проєктів, як співпрацюючи з провідними компаніями світу, так і застосовуючи власні розробки, надзвичайно активно використовує інструменти ШІ під час бойових дій проти армії РФ.

Як зазначає міністр цифрової трансформації Михайло Федоров, «Сьогодні ми є таким собі полігоном для використання штучного інтелекту. Він активно застосовується для розпізнавання й розшифрування супутникових знімків, розпізнавання цілей на полі бою, розвитку технологій захоплення цілей для дронів, розпізнавання обличч, прогнозування засобів, якими можна вражати певні цілі».

Обговорюючи питання регуляції ШІ в оборонній сфері, заступник міністра цифрової трансформації з питань розвитку ІТ-сфери Олександр Борняков зазначив, що під час повномасштабної війни регулювання ШІ в проєктах, які стосуються воєнних потреб, не передбачається. В якості делікатного коментаря звертаємо увагу на те, що державне регулювання «для обмеження» є лише одним з інструментів державного управління. В тих країнах, де діє принцип «належного врядування», державне регулювання застосовується переважно «для заохочення» та перспективного стратегічного й тактичного планування.