Последние видео свидетельствуют, что распиаренная система "зрения" на основе ИИ в российских дронах "Ланцет" попадала в кучи обломков, а не в цель, на которую до того уверенно шла.
Система захвата целей на основе искусственного интеллекта у российских ударных дронов "Ланцет" есть, но ее отключили из-за ошибок. К такому выводу пришел Forbes, опираясь на видеодоказательства и мнение экспертов.
Российский дрон-камикадзе "Ланцет" считается одним из лучших образцов оружия в российско-украинской войне. Недорогой боеприпас оказался особенно эффективным для уничтожения артиллерии и бронетехники на расстоянии. Недавно "Ланцет" был обновлен и получил новый режим следования за целью, что, возможно, сделало его одним из первых образцов действительно автономного боевого оружия, способного находить и поражать цели без помощи человека.
Но есть доказательства того, что дрон работает не так хорошо, как рассчитывали оккупанты, а автономный режим на самом деле выключен. Тщательный анализ видео нападений, опубликованных в социальных сетях, показывает, что в работе российских дронов происходит сбой.
Ланцеты обычно работают в группах со специализированными разведывательными беспилотниками, также производства компании ZALA, которые изготавливают "Ланцет". Разведывательная группа находит и локализует цели, передавая координаты оператору, который доставляет дроны на место, подтверждает цель и направляет "Ланцет" на нее.
Производители всегда хвастались уровнем встроенного интеллекта "Ланцет", а последнее обновление должно обеспечить высокий уровень автономности. В декабре военный эксперт Михаил Кузовкин заявил российскому телеканалу РЕН ТВ, что захват целей теперь происходит автоматически и не требует ввода оператора. Это должно было бы сделать дроны неуязвимыми.
Александр Захаров, генеральный директор ZALA, не употребляет термин ИИ, считая разработку просто высшим уровнем автоматизации. "В этом беспилотнике нет искусственного интеллекта, только алгоритмы и принятие решений", — заявил Захаров в телеинтервью в июле 2023 года.
Обзор сбитых "Ланцетов" показал, что они оснащены модулем NVIDIA Jetson TX2, разработанным для обеспечения "настоящего искусственного интеллекта" для небольших маломощных систем, таких как дроны. Модуль TX2 размером с кредитную карту оптимизирован для нейронных сетей и программ машинного обучения с набором параллельных графических процессоров, которые выполняют 30 триллионов операций в секунду. TX2 управляет беспилотниками, такими как Skydio 2, потребительская модель, которую называют удивительно умной из-за ее способности прокладывать собственную траекторию полета, следовать за объектом и избегать препятствий без помощи человека.
Хотя теоретически чип TX2 американского производства нельзя экспортировать в Россию из-за санкций, он есть в свободном доступе на Alibaba примерно за 200 долларов партиями по 100+. ZALA, вероятно, не имеет особых проблем с их приобретением. Вопрос лишь в том, насколько эффективно TX2 может идентифицировать объекты на земле без присмотра человека.
Видео атаки "Ланцетов" часто публикуют в социальных сетях, что дает представление о типе атакованных целей. Примерно 50% из них — артиллерия или ракетные установки. Большой радиус действия дрона делает его очень эффективным инструментом контрбатарейной борьбы.
Во многих видео "Ланцетов" с октября во время финальной атаки текст "Цель захвачена" на русском языке появляется на экране с движущимся полем, которое следует за целью. Явление знакомо из современного противотанкового оружия, например Javelin, которое оператор направляет на цель перед запуском. Надпись "Цель захвачена" можно увидеть на трех из пяти видео о танках, артиллерии и грузовиках. Но она отсутствует, когда речь идет о более тяжелых и замаскированных целях.
"Кажется, чип Jetson способен поддерживать базовое распознавание объектов, но я думаю, что это больше вопрос того, сколько объектов может распознать "Ланцет" и насколько надежно", — говорит Зак Калленборн из Программы стратегических технологий CSIS.
Впрочем Сэмюэл Бендетт, специалист по российским беспилотникам и советник CNA и CNAS, говорит, что заявления о том, что "Ланцет" является либо полуавтоматическим, либо полностью автономным, актуальны. Минобороны РФ подает эти дроны как "умное" чудо-оружие, хотя сейчас возможности ИИ фактически выключили.
На одном из видео от 29 января видно, как "Ланцет" бьет по БМП CV-90. Появляется знакомый знак "Цель захвачена", и дрон будто движется прямо на CV-90, пока не отклоняется в последнюю секунду. Как отмечает российский комментатор, дрон выбрал целью не БМП, а груду осколков.
Это пример хрупкости систем зрения на основе искусственного интеллекта, совершающих ошибки, которые кажутся комичными для наблюдателя. ИИ с глубоким обучением может запутаться, когда объект находится под необычным углом, или может быть обманут чем-то таким простым как наклейка.
Может быть еще много подобных промахов, которые мало кто видел, поскольку они обычно не публикуются в социальных сетях. Интересно, что ни одно из видео "Ланцетами" за последние две недели или около того не имеет надписи "Цель захвачена" или сопроводительной ограничительной рамки.
Очевидный вывод заключается в том, что программное обеспечение для автоматического распознавания целей было развернуто преждевременно, и продукт был отозван. Раньше надпись не появлялась только со сложными и запутанными формами, такими как замаскированная артиллерия, теперь она не появляется даже с простыми целями на открытом воздухе.
Но кроме искусственного интеллекта "Ланцет" получает и другие модификации. Осенью прошлого года "Ланцет" получил возможность взрываться дистанционно, без контакта с целью.