Дрон с системой искусственного интеллекта самостоятельно выбрал цель: он унес жизни трех человек в Запорожье — NYT

В прошлом месяце в Запорожье российский дрон, напоминавший небольшой модельный самолет, пытался подлететь к автозаправочной станции, но врезался в стену и взорвался. Взрыв привел к разлету осколков, в результате чего погибли три человека.

The New York Times пишет, что тысячи украинских мирных жителей погибли в результате российских авиаударов, и эти люди стали одними из них. Однако их гибель сопровождалась особым обстоятельством: по данным экспертов по беспилотникам, украинских военных командиров и судебных экспертов, исследовавших обломки этого и других смертоносных ударов в Запорожье, беспилотником управляла экспериментальная система искусственного интеллекта, а не человек.

Эксперты и военные чиновники отметили, что операторы сначала задали дрону маршрут к конкретной автозаправочной станции. После приближения к ней беспилотник самостоятельно определил цель для удара — скорее всего, баллоны с пропаном, поскольку его научили распознавать такие объекты и атаковать их.

Кроме того, по словам экспертов, анализ обломков этого и других ударов в Запорожье показал, что российские беспилотники были оснащены мини-компьютерами Nvidia, которые компания продает в свободном доступе и которые самостоятельно принимали решения по выбору цели. Nvidia производит большинство микросхем, используемых в самых современных системах искусственного интеллекта в мире.

Так, украинские военные обратили внимание на установленные в дронах модули Nvidia и отсутствие антенн и предположили, что беспилотники могли работать под управлением автономной системы искусственного интеллекта. Дальнейшее расследование подтвердило эту версию.

Издание отмечает, что автономные системы искусственного интеллекта обучаются распознавать различные объекты на основе тысяч изображений, в частности реки, военные грузовики или людей. Беспилотники с такой системой используют камеры, чтобы самостоятельно находить нужные объекты, и могут делать это точнее, чем пилот-человек.

В то же время противники автономного оружия подчеркивают, что без контроля человека дроны могут чаще ошибаться или нарушать правила ведения войны, например, не различать гражданских лиц и военных.

Старший научный сотрудник Центра искусственного интеллекта имени Вадхвани при Центре стратегических и международных исследований в Вашингтоне Екатерина Бондар отметила, что удар по автозаправочной станции 6 июля может быть первым задокументированным случаем гибели гражданских лиц из-за российского дрона с системой автономного наведения на основе искусственного интеллекта. По ее словам, установленный в беспилотнике модуль Nvidia является лучшим доказательством того, что Россия проводила эксперименты с автономными системами искусственного интеллекта.

NYT пишет, что местные представители ПВО сообщили, что во время испытаний автономных дронов в Запорожье российские военные выбирали различные цели, среди которых были гражданские объекты — насосы и баллоны с пропаном на автозаправочных станциях — а также военные призывные пункты. При этом пока нет объяснения, почему для испытаний выбрали именно такие объекты.

Эксперт по дронам Харьковского авиационного института Вадим Кушников заявил, что беспилотник, в результате атаки которого погибли трое гражданских лиц, был заранее запрограммирован и обучен в виртуальной среде распознавать и отслеживать конкретные объекты.

Украинские чиновники сообщили, что часть испытанных Россией дронов с искусственным интеллектом взорвалась после удара, тогда как другие беспилотники остались неповрежденными. Они показали журналистам The New York Times обломки двух таких дронов, после чего издание сфотографировало установленные внутри них компьютерные модули Nvidia и передало эти снимки компании.

В компании подтвердили, что на переданных им снимках виден мини-компьютер Jetson Orin. Эксперты также обнаружили такие модули на различных видах российского оружия, при этом их стоимость составляет всего несколько сотен долларов.

В то же время в компании заявили, что этот мини-компьютер является потребительским продуктом и продается студентам, разработчикам и стартапам для различных практических задач. По их утверждениям, компания не поставляет этот мини-компьютер в Россию, хотя приобрести его там можно через посредников.

Украина также проводила испытания систем искусственного интеллекта, способных самостоятельно определять цели. Бывший министр обороны Михаил Федоров в конце прошлого месяца рассказал газете The Times, что в течение последних нескольких месяцев украинские военные тестировали полностью автономную систему искусственного интеллекта в оккупированном Россией Крыму. По его словам, эти системы использовались для наведения на топливные хранилища и военную технику, при этом ни один мирный житель не пострадал.

Напомним, что украинские военные уже применяют более 70 систем с искусственным интеллектом и компьютерным зрением для поражения вражеских целей. С помощью этих технологий дроны могут ориентироваться на местности, распознавать объекты и самостоятельно наводиться на них, однако решение о нанесении удара в каждом случае принимает оператор.