Дрон із системою штучного інтелекту самостійно обрав ціль: він забрав життя трьох людей у Запоріжжі — NYT

Минулого місяця в Запоріжжі російський дрон, який нагадував невеликий модельний літак, намагався підлетіти до автозаправної станції, але врізався у стіну та вибухнув. Вибух спричинив розліт уламків, унаслідок чого загинули троє людей.

The New York Times пише, що тисячі українських цивільних загинули внаслідок російських авіаударів, і ці люди стали одними з них. Однак їх загибель мала особливу обставину: за даними експертів із безпілотників, українських військових командирів та судових експертів, які досліджували уламки цього та інших смертельних ударів у Запоріжжі, безпілотником керувала експериментальна система штучного інтелекту, а не людина.

Експерти та військові чиновники зазначили, що оператори спочатку задали дрону маршрут до конкретної автозаправної станції. Після наближення до неї безпілотник сам визначив ціль для удару — найімовірніше, балони з пропаном, оскільки його навчили розпізнавати такі об’єкти та атакувати їх.

Крім того, за словами експертів, аналіз уламків цього та інших ударів у Запоріжжі показав, що російські безпілотники були оснащені мінікомп’ютерами Nvidia, які компанія продає у вільному доступі та які самостійно приймали рішення щодо вибору цілі. Nvidia виробляє більшість мікросхем, що використовуються в найсучасніших системах штучного інтелекту у світі.

Так, українські військові звернули увагу на встановлені в дронах модулі Nvidia та відсутність антен і припустили, що безпілотники могли працювати під керуванням автономної системи штучного інтелекту. Подальше розслідування підтвердило цю версію.

Видання наголошує, що автономні системи штучного інтелекту навчають розпізнавати різні об’єкти за тисячами зображень, зокрема річки, військові вантажівки чи людей. Безпілотники з такою системою використовують камери, щоб самостійно знаходити потрібні об’єкти, і можуть робити це точніше за пілота-людину. 

Водночас противники автономної зброї наголошують, що без контролю людини дрони можуть частіше помилятися або порушувати правила ведення війни, наприклад не відрізняти цивільних від військових.

Старша наукова співробітниця Центру штучного інтелекту імені Вадхвані при Центрі стратегічних та міжнародних досліджень у Вашингтоні Катерина Бондар зазначила, що удар по автозаправній станції 6 липня може бути першим задокументованим випадком загибелі цивільних через російський дрон із системою автономного наведення на основі штучного інтелекту. За її словами, встановлений у безпілотнику модуль Nvidia є найкращим доказом того, що Росія проводила експерименти з автономними системами штучного інтелекту.

NYT пише, що місцеві представники ППО повідомили, що під час випробувань автономних дронів у Запоріжжі російські військові обирали різні цілі, серед яких були цивільні об’єкти — насоси та балони з пропаном на автозаправних станціях — а також військові призовні пункти. При цьому наразі немає пояснення, чому для випробувань обрали саме такі об’єкти.

Експерт із дронів Харківського авіаційного інституту Вадим Кушніков заявив, що безпілотник, унаслідок атаки якого загинули троє цивільних, був заздалегідь запрограмований і навчений у віртуальному середовищі розпізнавати та відстежувати конкретні об’єкти.

Українські чиновники повідомили, що частина випробуваних Росією дронів зі штучним інтелектом вибухнула після удару, тоді як інші безпілотники залишилися неушкодженими. Вони показали журналістам The New York Times уламки двох таких дронів, після чого видання сфотографувало встановлені всередині них комп’ютерні модулі Nvidia та передало ці знімки компанії.

У компанії підтвердили, що на переданих їм знімках видно мінікомп’ютер Jetson Orin. Експерти також виявили такі модулі на різних видах російської зброї, при цьому їхня вартість становить лише кілька сотень доларів.

Водночас у компанії заявили, що цей мінікомп’ютер є споживчим продуктом і продається студентам, розробникам та стартапам для різних практичних завдань. За їхніми твердженнями, компанія не постачає цей мінікомп’ютер до Росії, хоча придбати його там можна через посередників.

Україна також проводила випробування систем штучного інтелекту, які можуть самостійно визначати цілі. Колишній міністр оборони Михайло Федоров наприкінці минулого місяця розповів газеті The Times, що протягом останніх кількох місяців українські військові тестували повністю автономну систему штучного інтелекту в окупованому Росією Криму. За його словами, ці системи використовували для наведення на паливні сховища та військову техніку, при цьому жоден цивільний не постраждав.

Нагадаємо, що українські військові вже застосовують понад 70 систем зі штучним інтелектом і комп’ютерним зором для ураження ворожих цілей. За допомогою цих технологій дрони можуть орієнтуватися на місцевості, розпізнавати об’єкти та самостійно наводитися на них, однак рішення про завдання удару в кожному випадку приймає оператор.