Регулирование искусственного интеллекта в военной сфере: ограничение или поощрение?

Было бы удивительно, если бы технологические возможности ИИ не применялись в военной сфере. Как утверждает влиятельное британское издание The Economist, ИИ меняет каждый аспект войны. К сожалению, Украина сегодня проверяет это на себе.

Исследователи рынков вооружений с применением ИИ называют десять видов его использования в военных целях: автономные системы вооружения, наблюдение и рекогносцировка, распознавание и классификация целей, анализ и прогнозирование угроз, логистика и управление цепочками поставок, защита кибербезопасности, радиоэлектронная борьба, симуляция и обучение, медицинская диагностика и лечение, системы поддержки принятия решений.

Проблема применения ИИ в военной сфере побуждает государства к общим решениям регулирования норм «мягкого» международного права. На саммите «Ответственный искусственный интеллект в военной сфере» (REAIM 2023), который прошел 15 и 16 февраля 2023 года в Гааге, была принята Политическая декларация об ответственном использовании ИИ и автономии в военных целях, направленная на формирование международного консенсуса по ответственному поведению и государственному управлению разработками, развертыванию и использованию военного ИИ. По состоянию на 12 февраля декларацию поддержали 54 государства, в частности страны G7 и Украина.

Продолжим исследование опыта стран-лидеров в применении ИИ, начатое намиранее.

США

Первая Стратегия Министерства обороны в отношении ИИ была разработана в 2018 году и обнародована в феврале 2019-го (обновлена в 2020 году). Стратегия охватила такие темы, как стратегические цели, стратегический подход и стратегические направления, и была ориентирована на повышение эффективности использования современных возможностей ИИ.

Минобороны США не обошло вниманием и обучение военных, подготовив Стратегию обучения военнослужащих в соответствующих сферах ИИ. Ее основная цель — «ускоренное внедрение возможностей искусственного интеллекта в масштабе».

А уже 2 февраля 2022 года Минобороны обнародовало Стратегию модернизации программного обеспечения. Мотив ее разработки был очень простой: «Чтобы создать более смертоносную силу, нужна способность развиваться быстрее и быть адаптивнее, чем наши противники».

В марте 2023 года в США приняли Национальную стратегию кибербезопасности. Вот что говорилось в ее тексте о мотивах принятия: «Правительства Китая, России, Ирана, Северной Кореи и других автократических государств с ревизионистскими намерениями агрессивно используют передовые кибервозможности для достижения целей, противоречащих нашим интересам и общепринятым международным нормам».

21 февраля 2024 года на симпозиуме «Преимущества Министерства обороны в 2024 году: оборонные данные и искусственный интеллект», который состоялся в Вашингтоне, округ Колумбия выступила заместитель министра обороны США Кэтлин Хикс с докладом на тему «Глобальное соперничество в сфере ИИ».

В докладе названы самые важные факторы, побуждающие Минобороны США уделять экстраординарное внимание развитию ИИ. Первый фактор — необходимость применять эту технологию, которая дает «еще большее преимущество во время принятия решений, чем у США есть сегодня, учитывая вызов, встающий перед нами со стороны Китайской Народной Республики».

Второй фактор — масштабы менеджмента. Кэтлин Хикс сравнила Министерство обороны США с «самым большим в мире предприятием», имеющим в управлении «почти 3 миллиона людей на заработной плате; систему здравоохранения, обслуживающую более 9 миллионов военнослужащих, пенсионеров и членов семей; и активы по всему миру, разбросанные на 25 миллионах акров, что приблизительно равно площади штата Кентукки. Стоимость активов Министерства обороны во всем мире выше, чем у Amazon, Apple, Microsoft и Walmart вместе взятых». Именно поэтому необходимо использовать данные и ИИ, чтобы быть «более умными, быстрыми и лучшими распорядителями средств налогоплательщиков».

Четыре разные группы цифровых технологий, искусственного интеллекта и аналитики были объединены в Минобороны США уже в 2022 году под руководством Главного управления цифрового и искусственного интеллекта (CDAO), ответственного за ускорение внедрения данных, аналитики и ИИ в Минобороны. Управление было создано путем слияния Объединенного центра искусственного интеллекта (JAIC) и цифровых служб обороны (DDS), действовавших раньше.

Ключевая задача CDAO — регулирование и масштабирование случаев общего использования инструментов, содержащих ИИ, включая исполнительную аналитику для измерения прогресса в реализации стратегии национальной обороны, общую оперативную картину для боевых командующих от оперативного до стратегического уровня в рамках инициативы Advancing Data and AI (ADA), а также лучшие инструменты и аналитику для помощи высшему руководству и боевым командирам в динамичной кампании.

14 ноября 2023 года CDAO обнародовало Инструментарий ответственного искусственного интеллекта (RAI), который является ключевым результатом Стратегии и пути внедрения ответственного ИИ (RAI S&I Pathway) Министерства обороны США, подписанной в июне 2022 года.

В RAI S&I Pathway описаны 64 направления приложения усилий для внедрения этических принципов ИИ именно в Министерстве обороны, включая разработку технических инструментов и указаний, которые помогут его персоналу проектировать, разрабатывать, разворачивать и ответственно использовать системы ИИ.

Великобритания

В Великобритании — как во всех других случаях — принятие государственных решений о военном применении ИИ происходит по принципу надлежащего управления. Система стратегических и регуляторных документов строится в строгой иерархии и по результатам консультаций с представительными органами государственной власти, экспертами, имеющими реальный успешный многолетний опыт реализации проектов в соответствующей сфере. Процедуры подготовки документов выполняются максимально прозрачно для общества.

В частности, в рамках национального стратегического порядка и стратегии принят один документ уровня «всеобъемлющий», два — по вопросам цифровизации и один — относительно ИИ. Минобороны утвердило четыре документа уровня «всеобъемлющие», девять по цифровизации и один относительно ИИ. И, наконец, Командование Британской армии утвердило два документа уровня «всеобъемлющие», один — по цифровизации и один — относительно ИИ.

Так, в октябре 2023 года с учетом именно такой структуры Британская армия обнародовала стратегический документ под названием «Подход Британской армии к искусственному интеллекту. Пособие для ускорения внедрения искусственного интеллекта в армии и подготовки армейского искусственного интеллекта», в котором было описано, как армия планирует стать «готовой к искусственному интеллекту» уже к апрелю 2024 года.

Этот документ прилагается к Интегрированной операционной концепции от сентября 2020 года, Цифровой стратегии обороны 2021 года и Стратегии данных для обороны, Стратегии оборонного искусственного интеллекта от июня 2022 года и устанавливает практическое выполнение Плана армейской цифровой информации и данных на 2023–2025 годы, опубликованного в апреле 2023 года. Кроме навыков, этики и внутреннего лидерства и управления данными, стратегия охватывает участие армии в частном секторе.

Для реализации программ ИИ в оборонной сфере Великобритании в 2021 году был создан Центр искусственного интеллекта Минобороны, работающий в тесной связи с тремя другими подразделениями. Среди них выделяется организация Defense Digital, отвечающая за передачу военным эффективных цифровых и информационных технологий. DD имеет годовой бюджет более 2 миллиардов фунтов стерлингов и команду с приблизительно 2400 сотрудниками, включая военных, государственных служащих и подрядчиков, и действует на основании Цифровой стратегии обороны. Подразделение «Оборонное оборудование и поддержка» (DE&S) создано как независимый орган Минобороны в 2014 году с уникальными правами управления, делегированными Казначейством Ее Величества и Кабинетом министров. Подразделение действует в условиях четырех основных стратегических вызовов: вторжение России в Украину, рост экономической, военной и технологической силы Китая, цифровая война и изменения климата. Лаборатория оборонной науки и технологий (Dstl) является исполнительным агентством Минобороны, которое предоставляет опыт мирового уровня и обеспечивает передовую науку и технологии на благо нации и союзников.

И еще одна свежая новость, которая может заинтересовать некоторых народных депутатов в Верховной Раде. 14 декабря 2023 года Комитет обороны британского парламента создал подкомитет по ИИ в сфере обороны, который, в частности, занимается следующими вопросами:

Насколько четко Минобороны определило приоритеты возможностей и опыта ИИ, которыми, по его мнению, должен владеть оборонный сектор Великобритании, какие именно приоритеты оно определило и можно ли их выполнить?
Какие сильные стороны и опыт сейчас имеет британская промышленность в сфере ИИ с оборонными приложениями?
Каким образом правительство Великобритании может лучше развивать способность и опыт в отечественной промышленности в таких секторах, как инженерия и программное обеспечение для поддержки разработки и доставки приложений ИИ в обороне?
Что может сделать правительство, чтобы помочь включить британские компании ИИ в цепочки поставок оборонной продукции как внутри страны, так и за границей?

В парламенте Великобритании уже успели основательно исследовать некоторые из этих вопросов.

Китай

Как США, так и Великобритания самой угрожающей тенденцией для мировой безопасности считают рост экономического, политического и военного влияния Китая. Это касается и развития возможностей Китая в применении ИИ в военной сфере.

Факт: Китай принял участие в саммитах и подписал два необязательных юридических документа, принятых в рамках крупных международных саммитов: Политическую декларацию об ответственном использовании искусственного интеллекта и автономии в военных целях (Нидерланды, 2023) и Декларацию Блетчли, согласованную на саммите по вопросам безопасности ИИ в Великобритании (2023).

Из выводов эксперта Института исследования войны Мэтта МакИнниса в исследовании «Россия и Китай: взгляд на будущее войны»: «Усилия Китая по военной модернизации направлены на достижение доминирования в принятии решений с помощью трехстороннего подхода: доктринальная трансформация и идеологическая жесткость; использование передовых технологий для формирования характера современных конфликтов; инновационные методы обучения для компенсации нехватки боевого опыта во время войны».

К тому же существующая информация о контактах на высшем уровне между Китаем и Россией уже в феврале 2024 года о сотрудничестве в развитии ИИ в военной сфере вызывает еще большую обеспокоенность.

В отчете китайских исследователей Fei Su и Jingdong Yuan, работающих в Европе, «Китайское «мышление относительно интеграции искусственного интеллекта и взаимодействия с ядерным командованием и управлением, структурой сил и принятием решений» сообщается, что за последние годы Китай обнародовал два ключевых позиционных документа об ИИ и связанных с ним рисках: Позиционный документ 2021 года о регулировании военного применения искусственного интеллекта и Позиционный документ 2022 года об укреплении этического управления искусственным интеллектом. Ключевые выводы исследователей относительно этих двух документов следующие:

Учитывая ускорение темпов интеграции Китаем ИИ к военным системам, маловероятно, что Китай предложит какое-либо регулирование, которое ограничивало бы развитие военного ИИ;
В документах очерчено противодействие использованию ИИ для подрыва суверенитета Китая и территориальной безопасности. Это — красная линия в позиции Китая по использованию ИИ;
Подчеркнута важность вмешательства человека в системы вооружения — ИИ всегда должен быть под контролем людей.

С учетом особенностей управленческих методов на уровне государства, можно утверждать, что опасность амбиций Китая в применении ИИ в военной сфере вполне реальна.

По нашему мнению, также важно обращать особое внимание на активизацию интереса к применению ИИ в военной сфере в таких государствах, как Иран и Северная Корея. Россия, с 2022 года использующая элементы ИИ в войне с Украиной, в том же году заявила о создании подразделения ИИ в управлении инновационного развития Минобороны. Тенденции использования Россией ИИ в военной сфере стремительно ускоряются.

Украина

Украина на уровне отдельных проектов как сотрудничая с ведущими компаниями мира, так и применяя собственные разработки, чрезвычайно активно использует инструменты ИИ во время боевых действий против армии РФ.

Как говорит министр цифровой трансформации Михаил Федоров, «Сегодня мы являемся неким полигоном для использования искусственного интеллекта. Он активно применяется для распознавания и расшифровки спутниковых снимков, распознавания целей на поле боя, развития технологий захвата целей для дронов, распознавания лиц, прогнозирования средств, которыми можно поражать определенные цели».

Обсуждая вопрос регуляции ИИ в оборонной сфере, заместитель министра цифровой трансформации по вопросам развития ІТ-сферы Александр Борняков замечает, что во время полномасштабной войны регулирование ИИ в проектах, которые касаются военных потребностей, не предполагается. В качестве деликатного комментария обращаем внимание на то, что государственное регулирование «для ограничения» является лишь одним из инструментов государственного управления. В тех странах, где действует принцип «надлежащего управления», государственное регулирование применяется преимущественно «для поощрения» и перспективного стратегического и тактического планирования.