Изготовление дронов в Украине открывает "ящик Пандоры": чего опасаются в мире и при чем тут террористы — NYT

Война в Украине дала толчок к развитии потребительских технологий. Недостаток оружия, дальнобойных снарядов и запрет бить по целям в глубоком российском тылу спровоцировал развитие технологий. В том числе дронов с ИИ, которые автономны и не требуют управления человеком после захвата целей. Все это превратило воюющую Украину в Кремниевую долину и дала толчок к смертельной гонке инноваций. И все это теперь вызывает опасения, так как эти же технологии могут использовать и террористы по всему миру. Фактически, на Западе опасаются, что Украина "открыла ящик Пандоры". Об этом пишет The New York Times.

В материале рассказывается, среди прочего, об испытаниях украинской компанией Vyriy новых автономных дронов в поле на окраине Киева.

25-летний Алексей Бабенко, генеральный директор Vyriy, чтобы продемонстрировать работу нового беспилотника, сел на свой мотоцикл и поехал по грунтовой дороге. За ним следовал дрон, а его коллега отслеживал перемещения с помощью компьютера размером с портфель.

До недавнего времени пилотом квадрокоптера был человек. Теперь уже нет. Вместо этого, после того как дрон захватил цель — в этом случае это Бабенко — он полетел сам, управляемый программным обеспечением, которое использовало камеру для отслеживания.

"Если бы беспилотник был начинен взрывчаткой, а его коллеги не отключили систему автономного слежения, Бабенко пришел бы конец", — отмечает репортер.

Что известно об украинских автономных дронах

То, что создают компании, вроде Vyriy — это технология, которая делает человеческое суждение о нацеливании и стрельбе все более косвенным. Широкая доступность готовых устройств, простого в разработке программного обеспечения, мощных алгоритмов автоматизации и специализированных микрочипов искусственного интеллекта вывела смертельную гонку инноваций на неизведанную территорию, подпитывая потенциальную новую эру роботов-убийц.

Самые продвинутые версии технологии, которая позволяет дронам и другим машинам действовать автономно, стали возможны благодаря глубокому обучению, форме ИИ, которая использует большие объемы данных для выявления закономерностей и принятия решений. Глубокое обучение помогло создать популярные большие языковые модели, такие как GPT-4 от OpenAI , но оно также помогает моделям интерпретировать и реагировать в реальном времени на видео и кадры с камер. Это означает, что программное обеспечение, которое когда-то помогало дрону следовать за сноубордистом с горы, теперь может стать смертельным инструментом.

В более чем дюжине интервью с украинскими предпринимателями, инженерами и военными подразделениями возникла картина недалекого будущего, когда стаи самоуправляемых дронов смогут координировать атаки, а пулеметы с компьютерным зрением смогут автоматически убивать солдат. Также разрабатываются более диковинные творения, такие как парящий беспилотный вертолет, вооруженный пулеметами.

Оружие грубее, чем их прототипы из фантастических фильмов. И хотя это оружие не такое продвинутое, как дорогие военные системы, производимые Соединенными Штатами, Китаем и Россией, то, что делает эти разработки значимыми, — это их низкая стоимость — всего несколько тысяч долларов или меньше — и доступность.

За исключением боеприпасов, многие из этих видов оружия созданы с использованием кода, найденного в сети, и компонентов, таких как любительские компьютеры, такие как Raspberry Pi , которые можно купить в Best Buy и хозяйственном магазине. Некоторые американские чиновники заявили, что они обеспокоены тем, что эти возможности вскоре могут быть использованы для совершения террористических атак.

Для Украины эти технологии могут дать преимущество перед Россией, которая также разрабатывает автономные смертоносные гаджеты, — или просто помочь ей не отставать. Системы повышают ставки в международных дебатах об этических и правовых последствиях использования ИИ на поле боя. Правозащитные группы и должностные лица ООН хотят ограничить использование автономного оружия из-за опасений, что оно может спровоцировать новую глобальную гонку вооружений, которая может выйти из-под контроля.

Но в Украине подобные опасения вторичны по сравнению с необходимостью отразить захватчика.

"Нам нужна максимальная автоматизация. Эти технологии имеют основополагающее значение для нашей победы", — сказал Михаил Федоров, министр цифровой трансформации Украины, который возглавил усилия страны по использованию технологических стартапов для расширения передовых боевых возможностей.

Автономные беспилотники, подобные "Вырию", уже использовались в бою для поражения российских целей, согласно украинским чиновникам и видео, проверенным The New York Times. Федоров сказал, что правительство работает над финансированием компаний, производящих беспилотники, чтобы помочь им быстро нарастить производство.

Однако возникают серьезные вопросы о том, какой уровень автоматизации приемлем. На данный момент дроны требуют, чтобы пилот захватывал цель, оставляя "человека в курсе" — фраза, часто используемая политиками и специалистами по этике ИИ.

Как ВСУ усовершенствуют автономные дроны

28-летний солдат 92-й штурмовой бригады с позывным "Дев" был одним из первых, кто в мае использовал автономные дроны "Вырий" на поле боя. И он помог продвинуть инновации, которые превратили дешевые дроны в оружие. Сначала он прикрепил бомбы к гоночным дронам, затем добавил более мощные батареи, чтобы они могли летать дальше, и недавно добавил ночное видение, чтобы машины могли охотиться в темноте.

Хотя беспилотники от Vyriy требовали усовершенствований, по мнению "Дева", автономные дроны "уже пользуются большим спросом", сказал он.

Производство дронов в Украине

По всей Украине появились кустарные фабрики и лаборатории для создания дистанционно управляемых машин всех размеров, от дальних самолетов и боевых катеров до дешевых дронов-камикадзе — сокращенно FPV, для вида от первого лица, потому что ими управляет пилот, надевающий очки виртуальной реальности. Многие из них являются предшественниками машин, которые в конечном итоге будут действовать самостоятельно.

Также в Киеве находятся производственные мощности компании Skyeton, которая выпускает беспилотники большой дальности, использующие для управления автоматизированные системы.

Попытки автоматизировать полеты FPV начались в прошлом году, но были замедлены неудачами в разработке программного обеспечения. Теперь эти проблемы решены, по словам Федорова. Следующим шагом будет масштабирование технологии с большими государственными расходами, сказал он, добавив, что около 10 компаний уже производят автономные дроны.

"У нас уже есть системы, которые можно производить массово, и сейчас они проходят всесторонние испытания на передовой, а это значит, что они уже активно используются", — сказал Федоров.

Украинский производитель дронов Saker создал автономную систему наведенияс процессами ИИ, изначально разработанную для сортировки и классификации фруктов. Зимой компания начала отправлять свои технологии на передовую, тестируя различные системы с пилотами дронов. Спрос резко вырос.

По словам генерального директора компании, который попросил называть его только по имени, Виктор, опасаясь ответных мер со стороны России, к маю компания Saker уже наладила массовое производство одноплатных компьютеров с установленным на них программным обеспечением, которые можно было легко подключать к дронам FPV, чтобы машины могли автоматически захватывать цель.

"Затем дрон врезается в цель и все. Он противостоит ветру. Он противостоит помехам. Вам просто нужно быть точным с тем, во что вы собираетесь попасть", — отметил Виктор.

В последние недели Saker пошел дальше, успешно применив разведывательный дрон, который идентифицировал цели с помощью ИИ, а затем отправил автономные дроны-камикадзе для уничтожения, сказал Виктор. В одном случае система поразила цель на расстоянии 50 км.

Также на войне с Россией применяется новое футуристическое оружие: орудийная башня с автономным наведением, которая работает с контроллером PlayStation и планшетом.

Пушка, названная Wollyв честь сходства с роботом Pixar WALL-E, может автоматически захватывать цель на расстоянии до 1000 метров и перескакивать между запрограммированными позициями, чтобы быстро покрыть большую площадь. Компания-производитель оружия DevDroid также разрабатывала автоматическое прицеливание для отслеживания и поражения движущихся целей.

В прошлом году Эрик Шмидт, бывший генеральный директор Google, и другие инвесторы создали фирму D3 для инвестирования в новые технологии боя на Украине. Другие оборонные компании, такие как Helsing, также объединяются с украинскими фирмами.

Украинские компании развиваются быстрее, чем их зарубежные конкуренты, говорит Эвелина Бучацкая, управляющий партнер D3. "Здесь просто другой набор стимулов", — сказала она.

Часто боевые требования объединяют инженеров и солдат. Александр Ябченко, командир Da Vinci Wolves, батальона, известного своими инновациями в вооружении, вспомнил, как необходимость защищать "дорогу жизни" — маршрут, используемый для снабжения войск вдоль восточной линии фронта в Бахмуте — подстегнула изобретательность. Он разместил на Facebook открытый запрос на компьютеризированный, дистанционно управляемый пулемет.

Через несколько месяцев он получил рабочий прототип от фирмы Roboneers. Оружие почти сразу же оказалось полезным для его подразделения. "Мы могли бы сидеть в окопе, пить кофе, курить сигареты и стрелять в русских", — сказал он.

В итоге компания установила пулеметную башню на движущемся наземном беспилотнике, чтобы помочь войскам совершать атаки или быстро менять позиции. Применение привело к большей потребности в автоматическом прицеливании на базе ИИ, сказал генеральный директор Roboneers Антон Скрипник.

Программное обеспечение от Swarmer, которое было создано в прошлом году бывшим инженером Amazon Сергеем Куприенко, было создано на основе модели ИИ, обученной на больших объемах данных о миссиях фронтовых дронов. Оно позволяет одному технику управлять семью дронами в миссиях по бомбардировке и разведке.

Недавно Swarmer добавил возможности, которые могут направлять атакующие дроны-камикадзе на расстояние до 56 км. Есть надежда, что программное обеспечение, которое тестируется с января, сократит количество людей, необходимых для управления миниатюрными воздушными силами, которые доминируют на передовой.

Реакция Запада

"Украина жестко и ясно показала, почему автономное оружие имеет преимущества", — заявил Стюарт Рассел, специалист по искусственному интеллекту и профессор Калифорнийского университета в Беркли, который предупредил об опасностях использования искусственного интеллекта в военных целях. "Появится оружие массового поражения, которое будет дешевым, масштабируемым и легкодоступным на рынках оружия по всему миру", — отметил Рассел.

В 2017 году он выпустил онлайн-фильм "Slaughterbots", предупреждающий об опасностях автономного оружия. В фильме бродячие стаи недорогих вооруженных дронов с искусственным интеллектом используют технологию распознавания лиц для выслеживания и уничтожения целей.

"То, что происходит в Украине, приближает нас к этому антиутопическому будущему", — сказал Рассел.

Он не одинок в своих опасениях, что Украина станет поворотным моментом. В Вене члены группы экспертов ООН также заявили, что обеспокоены последствиями новых технологий, разрабатываемых в Украине.

Чиновники потратили более десятилетия на обсуждение правил использования автономного оружия, но мало кто ожидает, что какое-либо международное соглашение установит новые правила, особенно в то время как США, Китай, Израиль, Россия и другие страны соревнуются в разработке еще более совершенного оружия. В одной из программ США , объявленной в августе, известной как инициатива Replicator, Пентагон заявил, что планирует массово производить тысячи автономных дронов.

"Геополитика делает это невозможным. Это оружие будет использовано, и оно будет использоваться в военном арсенале практически каждого", — заявил Александр Кментт, главный переговорщик Австрии по автономному оружию в ООН.

По его словам, никто не ожидает, что страны полностью запретят такое оружие, "но его следует регулировать таким образом, чтобы мы не оказались в ситуации абсолютного кошмара".

Михаил Федоров, министр цифровой трансформации Украины, отмечал, что в Украине этот спор носит академический характер. "Сначала нам нужно победить. Для этого мы сделаем все возможное, чтобы максимально внедрить автоматизацию, чтобы спасти жизни наших солдат", — сказал Федоров на саммите в Киеве в мае этого года.