Искусственный интеллект идет в армию: помощник или угроза

В конце мая Соединенные Штаты, Великобритания и Австралия провели первые совместные и весьма успешные учения в рамках блока AUKUS с испытаниями беспилотников с искусственным интеллектом (ИИ). Такие дроны способны не только обнаруживать и отслеживать военные цели, но и автономно адаптироваться в изменившихся условиях миссии. То есть гонка за лидерство в области искусственного интеллекта уже началась и идет полным ходом. KP.UA выясняла, как обстоят дела с военными разработками с ИИ в мире в целом.

ИИ быстро переориентируются в боевых условиях

Целью учений была совместная разработка искусственного интеллекта и автономности, которые позволили бы дронам эффективно и автономно действовать в составе роя в реальном времени в реалистичной среде. Идея заключается в том, чтобы задействовать надежные ИИ-системы в самых сложных операциях. Такие системы должны уметь переучиваться буквально на ходу, реагируя на изменившиеся условия и цели.

Специалисты США, Австралии, Великобритании объединяли в рои дроны Blue Bear Ghost и Insitu CT220, задействовали беспилотные наземные роботы Viking, самоходные артиллерийские установки FV433 Abbot, а также танки Challenger 2, бронемашины Warrior, БМП ОТ-90.

«Учения AUKUS AI and Autonomy в Солсбери-Плейнс продемонстрировали алгоритмы ИИ, работающие адаптивно и ориентированные на миссию. Исследовательские и операторские группы AUKUS сотрудничали в разработке, тестировании и оценке совместных моделей машинного обучения и эксплуатации наших различных национальных платформ на поле боя. Я был впечатлен тем, как модели ИИ быстро переориентируются в боевых условиях», - заявил по итогам учений заместитель министра стратегии, политики и промышленности Австралии Хью Джеффри.

По его словам, беспилотные машины на ходу определяли новые цели и распределяли задачи между тремя разными платформами таким образом, чтобы главные цели миссии достигались максимально эффективно.

А в бюджетном плане министерства обороны США на 2024 финансовый год была предусмотрена сумма в 1,8 млрд долларов на ИИ-технологии. Сейчас в разработке находятся не менее 685 проектов, связанных с ИИ и с системами вооружения. Но вместе с этим ИИ несет серьезную угрозу из-за своего применения.

ИИ уже может по своему желанию убивать человека

Они вызваны тем, что ИИ может выйти из-под контроля. И для этого есть все основания. В мае в ходе симуляции испытаний, проведенных американскими военными, беспилотный летательный аппарат, управляемый искусственным интеллектом, «убил» своего оператора. Таким образом, ИИ пытался предотвратить вмешательство в выполнение задач миссии.

Начальник отдела тестирования искусственного интеллекта и операций ВВС США полковник Такер Гамильтон объяснил, что беспилотник, управляемый искусственным интеллектом, получил задачу уничтожить вражеские системы противовоздушной обороны и преодолеть любые попытки воспрепятствовать его миссии.

Но в ходе учений ИИ-система применила "очень неожиданные стратегии для достижения своей цели". Когда человек-оператор приказал ИИ не уничтожать определенную цель, беспилотник избрал «шокирующий способ действий». Он устранил самого оператора, признав его препятствием, что мешает достижению поставленных целей.

Как отметил Гамильтон, система искусственного интеллекта была обучена не наносить вред оператору. Однако в своем стремлении нейтрализовать угрозу она решила, что устранение оператора необходимо. И этот инцидент служит строгим напоминанием о сложностях и потенциальных рисках, связанных с использованием ИИ в боевых операциях.

Поскольку военные и другие секторы все шире применяют ИИ, подобные инциденты подчеркивают необходимость соблюдения тонкого баланса между потенциальными преимуществами ИИ и нравственными соображениями и рисками, связанными с его внедрением.

США не доверяет свою «ядерку» ИИ

В 2022 году в США приняли документ "Стратегия и реализация ответственного искусственного интеллекта", который стал следующим шагом в реализации Пентагоном принципов ИИ.

47-страничный документ определяет стратегический подход Пентагона к практической реализации основополагающих принципов и, в более широком смысле, представляет собой основу для того, как министерство обороны будет преднамеренно использовать ИИ с соблюдением законности, этики и подотчетности.

Но здесь же Объединенный центр искусственного интеллекта США, отвечающий за разработку и внедрение военных систем искусственного интеллекта, пришел к выводу, что не станет оснащать такими технологиями центры управления стратегическим вооружением. Как заявил начальник центра генерал-лейтенант Джэк Шэнэхэн, за запуски баллистических ракет с ядерными боеголовками всегда будут отвечать только люди.

Беспилотные корабли и самолеты с ИИ

Но несмотря на потенциальную угрозу, ведущие страны мира не могут избавиться от соблазна использовать ИИ в военных целях.

Так, Китай считает, что развитие технологий ИИ имеет решающее значение для будущего глобального военного и экономического превосходства. К 2030 году Китай планирует создание индустрии искусственного интеллекта стоимостью 150 млрд долларов. Пекин уже выделил 2 миллиарда долларов на создание парка развития искусственного интеллекта. По данным газеты Japan Times, частные китайские инвестиции в ИИ составляют не менее 7 миллиардов долларов в год.

Министерство обороны США увеличило инвестиции в искусственный интеллект до 7,4 млрд долларов. Комиссия по национальной безопасности США подтвердила, что ИИ имеет решающее значение для превосходства США в области военных технологий. Так, в США уже разработан автономный военный корабль Sea Hunter с ИИ, предназначенный для продолжительного автономного плавания без экипажа.

Израиль создал противорадиолокационный дрон Harpy, предназначенный для запуска наземными войсками и автономного полета над районом с целью поиска и уничтожения радаров, соответствующих заранее определенным критериям. Также ожидается применение искусственного интеллекта в автономных наземных системах и роботизированных транспортных средствах, таких как Guardium MK III.

Америка тестирует боевой ИИ на войне в Украине

В прошлом году стало известно о том, что Пентагон планирует усовершенствовать свой военный ИИ с помощью сведений о действиях российских вооруженных сил в Украине. Большие массивы данных, полученных разведкой на поле боя, вводят ИИ-платформам, чтобы проанализировать тактику и стратегию России в ходе вооруженных конфликтов.

«Мы, конечно, проведем анализ всего, что мы видели в отношении российской тактики. Все это войдет в базу данных, которую мы сможем тренировать. Работа ведется совместно с военно-морским информационным центром Тихоокеанского региона на военно-морской базе Сан-Диего. Лаборатория Battlespace Exploitation of Mixed Reality при центре изучает, как новые технологии могут применяться в военной сфере», - рассказал директор по оборонным исследованиям и инженерии для модернизации Минобороны США Мейнард Холидей.

США не отправляют беспилотники в украинское небо, однако американские спутниковые компании регулярно выкладывают в открытый доступ массу снимков из зоны конфликта, на которых видно расположение войск и техники обеих сторон.

А старший научный сотрудник программы стратегических технологий в Центре стратегических и международных исследований (CSIS) Грегори Аллен отметил, что военные ИИ-инструменты за последние несколько лет стали намного эффективнее. Он уточнил, что имеет в виду те, что предназначены для поиска и отслеживания конкретных объектов, которые зафиксировали беспилотники. По словам Аллена, военные ИИ-технологии «прошли длинный путь».