Штучний інтелект іде до армії: помічник чи загроза

Наприкінці травня Сполучені Штати, Великобританія та Австралія провели перші спільні та успішні навчання в рамках блоку AUKUS з випробуваннями безпілотників зі штучним інтелектом (ШІ). Такі дрони здатні не тільки виявляти і відстежувати військові цілі, але й автономно адаптуватися в умовах місії, що змінилися. Тобто гонка за лідерство в галузі штучного інтелекту вже розпочалася і йде повним ходом. KP.UA з'ясовувала, як справи з військовими розробками з ШІ у світі.

ШІ швидко переорієнтовуються у бойових умовах

Метою навчань була спільна розробка штучного інтелекту та автономності, які дозволили б дронам ефективно та автономно діяти у складі рою у реальному часі у реалістичному середовищі. Ідея полягає в тому, щоб задіяти надійні ШІ-системи у найскладніших операціях. Такі системи повинні вміти переучуватися буквально на ходу, реагуючи на умови і цілі, що змінилися.

Фахівці США, Австралії, Великобританії об'єднували в рої дрони Blue Bear Ghost та Insitu CT220, задіяли безпілотні наземні роботи Viking, самохідні артилерійські установки FV433 Abbot, танки Challenger 2, бронемашини Warrior, БМП ОТ-90.

«Навчання AUKUS AI and Autonomy в Солсбері-Плейнс продемонстрували алгоритми ШІ, що працюють адаптивно та орієнтовані на місію. Дослідницькі та операторські групи AUKUS співпрацювали у розробці, тестуванні та оцінці спільних моделей машинного навчання та експлуатації наших різних національних платформ на полі бою. Я був вражений тим, як моделі ШІ швидко переорієнтовуються у бойових умовах», - заявив за підсумками навчань заступник міністра стратегії, політики та промисловості Австралії Х'ю Джеффрі.

За його словами, безпілотні машини на ходу визначали нові цілі та розподіляли завдання між трьома різними платформами таким чином, щоб головні цілі місії досягалися максимально ефективно.

А в бюджетному плані міністерства оборони США на 2024 фінансовий рік було передбачено суму в 1,8 млрд доларів на ШІ-технології. Зараз у розробці знаходяться не менше 685 проєктів, пов'язаних з ШІ та системами озброєння. Але разом із цим ШІ несе серйозну загрозу через своє застосування.

ШІ вже може за своїм бажанням вбивати людину

Побоювання викликані тим, що ШІ може вийти з-під контролю. І для цього є всі підстави. У травні під час симуляції випробувань, проведених американськими військовими, безпілотний літальний апарат, керований штучним інтелектом, «убив» свого оператора. Таким чином, ШІ намагався запобігти втручанню у виконання завдань місії.

Начальник відділу тестування штучного інтелекту та операцій ВПС США полковник Такер Гамільтон пояснив, що безпілотник, керований штучним інтелектом, отримав завдання знищити ворожі системи протиповітряної оборони та подолати будь-які спроби перешкодити його місії.

Але в ході навчань ШІ-система застосувала "дуже несподівані стратегії для досягнення своєї мети". Коли людина-оператор наказав ШІ не знищувати певну ціль, безпілотник обрав «шокуючий спосіб дій». Він усунув самого оператора, визнавши його перешкодою, що заважає досягненню поставленої мети.

Як зазначив Гамільтон, система штучного інтелекту була навчена не завдавати шкоди оператору. Однак у своєму прагненні нейтралізувати загрозу вона вирішила, що усунення оператора необхідне. І цей інцидент є суворим нагадуванням про складнощі та потенційні ризики, пов'язані з використанням ШІ в бойових операціях.

Оскільки військові та інші сектори все ширше застосовують ШІ, подібні інциденти наголошують на необхідності дотримання тонкого балансу між потенційними перевагами ШІ та моральними міркуваннями і ризиками, пов'язаними з його впровадженням.

США не довіряє свою «ядерку» ШІ

У 2022 році в США ухвалили документ "Стратегія та реалізація відповідального штучного інтелекту", який став наступним кроком у реалізації Пентагоном принципів ШІ.

47-сторінковий документ визначає стратегічний підхід Пентагону до практичної реалізації основоположних принципів і, у більш широкому сенсі, є основою для того, як міністерство оборони використовуватиме ШІ з дотриманням законності, етики та підзвітності.

Але тут же Об'єднаний центр штучного інтелекту США, який відповідає за розробку та впровадження військових систем штучного інтелекту, дійшов висновку, що не оснащуватиме такими технологіями центри управління стратегічним озброєнням. Як заявив начальник центру генерал-лейтенант Джек Шенехен, за запуски балістичних ракет із ядерними боєголовками завжди відповідатимуть лише люди.

Безпілотні кораблі та літаки з ШІ

Але незважаючи на потенційну загрозу, провідні країни світу не можуть позбутися спокуси використовувати ШІ у військових цілях.

Так, Китай вважає, що розвиток технологій ШІ має вирішальне значення для майбутньої глобальної військової та економічної переваги. До 2030 року Китай планує створення індустрії штучного інтелекту вартістю 150 млрд доларів. Пекін уже виділив 2 мільярди доларів на створення парку розвитку штучного інтелекту. За даними газети Japan Times, приватні китайські інвестиції в ШІ становлять щонайменше 7 мільярдів доларів на рік.

Міністерство оборони США збільшило інвестиції в штучний інтелект до 7,4 млрд доларів. Комісія з національної безпеки США підтвердила, що ШІ має вирішальне значення для переваги США у галузі військових технологій. Так, в США вже розроблено автономний військовий корабель Sea Hunter з ШІ, призначений для тривалого автономного плавання без екіпажу.

Ізраїль створив протирадіолокаційний дрон Harpy, призначений для запуску наземними військами та автономного польоту над районом з метою пошуку та знищення радарів, що відповідають заздалегідь визначеним критеріям. Також очікується застосування штучного інтелекту в автономних наземних системах та роботизованих транспортних засобах, таких як Guardium MK III.

Америка тестує бойовий ШІ на війні в Україні

Минулого року стало відомо про те, що Пентагон планує удосконалити свій військовий ШІ за допомогою відомостей про дії російських збройних сил в Україні. Великі масиви даних, отриманих розвідкою на полі бою, вводять в ШІ-платформи, щоб проаналізувати тактику та стратегію Росії під час збройних конфліктів.

«Ми, звичайно, проведемо аналіз усього, що ми бачили щодо російської тактики. Все це увійде до бази даних, яку ми зможемо тренувати. Робота ведеться разом із військово-морським інформаційним центром Тихоокеанського регіону на військово-морській базі Сан-Дієго. Лабораторія Battlespace Exploitation of Mixed Reality при центрі вивчає, як нові технології можуть застосовуватися у військовій сфері», - розповів директор з оборонних досліджень та інженерії для модернізації міноборони США Мейнард Холідей.

США не відправляють безпілотники в українське небо, проте американські супутникові компанії регулярно викладають у відкритий доступ масу знімків із зони конфлікту, на яких видно розташування військ та техніки обох сторін.

А старший науковий співробітник програми стратегічних технологій у Центрі стратегічних та міжнародних досліджень (CSIS) Грегорі Аллен зазначив, що військові ШІ-інструменти за останні кілька років стали набагато ефективнішими. Він уточнив, що має на увазі ті, що призначені для пошуку та відстеження конкретних об'єктів, які зафіксували безпілотники. За словами Аллена, військові ШІ-технології «пройшли довгий шлях».