ШІ у сучасній зброї: чому тема стала актуальною, та які ризики несе

Штучний інтелект став реальним інструментом на полі бою, що дозволяє швидше обробляти дані та керувати дронами. Однак, існують ризики, пов'язані з неправильним навчанням моделей та діями противника.

Штучний інтелект у зброї - реальний інструмент на полі бою, який дозволяє швидше обробляти дані, керувати дронами та навіть виконувати місії без участі людини. Водночас разом із перевагами зростають і ризики використання ШІ в зброї, зокрема неправильне навчання моделей, а також дії противника. Чому тема використання ШІ у зброї стала актуальною, та які ризики несе, в коментарі УННрозповів керівник напряму C2IS (Command and Control Information Systems) ГО "Аеророзвідка" Руслан Прилипко.

Штучний інтелект у військовій сфері. Чому тема використання ШІ стала актуальною?

Як зазначає Прилипко, є кілька факторів, чому тема використання ШІ стала актуальною.

Перший, найочевидніший, полягає в тому, що це стало можливим. З’явилися технології та обчислювальні потужності, доступні для такого роду завдань у досить широкому застосуванні. Це вже не якісь унікальні суперкомп’ютери, які є лише у великих компаній чи держав. Сьогодні такі обчислення можна виконувати у доступному форматі. Через це технології стали застосовними, і можна говорити, що їх реально інтегрувати у мілтех. Пам’ятаючи загальну тенденцію, коли технології з бізнес-середовища поступово переходять у військову сферу, оскільки там вони краще відпрацьовані, стало можливим створювати рішення, які нині є дуже затребуваними

Другий фактор, який називає експерт, - загальний інтерес до штучного інтелекту.

"Ми бачимо, що зараз він фігурує майже скрізь - у всіх можливих продуктах. Це також підштовхує до пошуку його застосувань у військових технологіях. Але головне - те, що в тих сферах, де штучний інтелект сьогодні реально ефективний, можна досягати значних результатів. Йдеться про розпізнавання різних типів об’єктів, опрацювання великих масивів інформації, роботу з мовними моделями, генеративним ШІ. Отже, поєднання технологічного потенціалу, зрілості рішень і реальних потреб у сфері обробки великих даних чи рутинних операцій зробило впровадження ШІ на полі бою цілком природним", - додає Прилипко.

Якби не повномасштабне вторгнення - розвиток штучного інтелекту у військовій сфері відбувався би так само?

"Точно ми не знаємо, але є два фактори, які змінили ситуацію. По-перше, ця війна суттєво відрізняється за швидкістю та обсягом інформації, яку потрібно обробляти. Наприклад, у сфері розпізнавання техніки з’явилося настільки багато відео, що людина фізично не може його передивитися. Бракує людей і часу: поки ти переглядаєш усі польоти, інформація вже втрачає актуальність. Тому важливо вміти "стискати" час, і саме ШІ це забезпечує", - зазначає Прилипко.

За його словами, по-друге, штучний інтелект у принципі став потужнішим. І, оскільки увага всього світу прикута до цього конфлікту, технології природно інтегруються у військову сферу.

Якби повномасштабної війни не було, розвиток ШІ йшов би тим самим шляхом, але значно повільніше. За прикладом - Китай або країни НАТО, де цифрові рішення розвивалися десятиліттями. Війна зробила технології надзвичайно актуальними. Вони реально допомагають, пришвидшують процеси й роблять їх ефективнішими

Переваги ШІ - це лише швидкість і економія часу?

"Не тільки. Є те, що вже працює, і те, що ще розробляється. Наприклад, рої дронів - це технологія, яка розробляється. І вона дозволяє одному оператору керувати не одним безпілотником, а групою. Для координації такого "флоту" - наземного або повітряного - потрібен саме штучний інтелект. Поки ефективних рішень у цій сфері небагато, але робота ведеться", - сказав Прилипко.

Він наводить інший приклад - використання ШІ для навігації, коли система може розпізнавати маршрут без GPS або без радіосигналів.

"Нейромережа "бачить" карту, порівнює її з реальним зображенням місцевості та може прокласти шлях навіть без зовнішніх сигналів. Такі рішення вже працюють, хоча не всі це усвідомлюють. Ще одна перевага - можливість виконувати місії без участі людини. Це зменшує ризики для особового складу. Автоматизація, роботизація, автономність - усе це знижує людські втрати. Крім того, ШІ дозволяє обробляти величезні масиви даних і швидко генерувати аналітику: виявляти закономірності, аналізувати перешкоди, визначати ризики. Це скорочує час на прийняття рішень. Якщо говорити конкретно про дрони, то це навігація, донаведення, аналіз телеметрії. Наприклад, можна визначати, де були радіоперешкоди, а де - ефективні маршрути. Це робить зброю і тактику її застосування ефективнішою", - каже експерт.

Ризики використання штучного інтелекту в дронах і РЕБ

Прилипко наводить декілька прикладів ризиків використання ШІ у дронах і РЕБ, зокрема:

• перший ризик - неправильне навчання моделей. Помилки у даних призводять до хибних результатів: система може розпізнати об’єкт неправильно або не розпізнати зовсім;
• другий ризик - дії противника. Якщо ворог розуміє принципи роботи системи, він може свідомо спотворювати її роботу: маскувати техніку, змінювати форму, додавати елементи, які заплутують алгоритм.

Проблема полягає в тому, що до штучного інтелекту швидко формується довіра. Коли він працює, люди починають сприймати його як безпомилковий інструмент і втрачають критичність. Це може призвести до серйозних наслідків, коли система помиляється, а люди цього не помічають. Ще один ризик - залежність від технології. Користувачі починають покладатися на її висновки, замість того щоб перевіряти їх. А коли алгоритм помиляється, наслідки можуть бути непередбачуваними. Також існує ризик втрати моделей. Якщо системи не захищені належним чином, їх можна перехопити, розібрати, скопіювати і використати проти нас

Чи можлива зброя, яка діє без участі людини, і чи потрібно це взагалі?

"Це складне питання. Якщо взяти, наприклад, систему самонаведення - то вона вже частково діє без людини. Після запуску ракета сама обчислює маршрут і вражає ціль. У цьому сенсі автономна зброя вже існує. Питання лише в тому, чи повинна людина залишатися "в циклі" - між виявленням цілі та рішенням про пуск. Є системи, де людина лише натискає кнопку "Пуск", а є ті, де вона може втрутитися, якщо алгоритм діє неправильно", - зазначає керівник напряму C2IS.

Утім, за його словами, під час війни ці питання не стоять гостро. Як показує досвід, коли йдеться про виживання, головне - ефективність. Етична дискусія про автономність зброї, ймовірно, повернеться після перемоги.

Як штучний інтелект впливає на ефективність ведення бойових дій?

"Якщо говорити про сучасне застосування в українській армії, то насамперед це розпізнавання цілей на відео та відеопотоках. Це дає змогу скоротити час обробки даних, отримати автоматизовані звіти й одразу передати інформацію в системи управління. Друга сфера - навігація, донаведення, ураження цілей на різних платформах. Третя - аналітика великих масивів даних, планування, навчання, технічна підтримка. Все це впливає на швидкість, точність і якість рішень", - зазначає Прилипко.

Підводячи висновки, експерт наголошує, що нинішня війна - війна технологій, штучний інтелект - її невід’ємна частина.

"Як і в цивільному житті, якщо щось можна автоматизувати й віддати машині - ми це робимо. Але ШІ - лише інструмент. Він не замінить людину, і ця технологія ще далека від ідеалу. Нині вона доволі "сира". Наступний етап - це ефективні AI-агенти, які зможуть діяти автономно. Але навіть тоді залишатиметься питання відповідальності.

Як і з автономними авто - що буде, якщо система помилиться? Це та сама дилема: технологія може спростити життя, але несе й нові ризики", - резюмував експерт.