США и Россия ослабили контроль над летальным автономным оружием с ИИ

В начале сентября в Женеве собрались сотни дипломатов, чтобы создать первое международное соглашение по летальному автономному оружию с искусственным интеллектом. Заседание проходило без камер ООН и наблюдателей от гражданского общества.

Однако в последний день этих переговоров, длившихся около 15 часов, делегации США и России добились изъятия ряда ключевых положений из проекта договора. По данным источников, каждая из этих делегаций имела примерно по 10 юристов, что вдвое превышало представительство многих других стран, позволяя им вносить правки со значительной скоростью.

Среди изъятых норм – требования к системам ИИ действовать «предсказуемо» и «надежно», пункт об обязательном учете этических соображений, а также ключевая норма, обязывающая человека проверять военные цели, определенные искусственным интеллектом, перед нанесением удара.

Эти изменения, по словам одного из источников, стали «смертью от тысячи бумажных порезов» для амбициозного документа, который должен был установить жесткие ограничения для автономного оружия. Теперь переговоры носят рекомендательный характер и только в ноябре делегации вновь соберутся в Женеве для решения дальнейшей судьбы документа.

Параллельно Пентагон пересматривает собственную директиву по автономному оружию от 2023 года. В июне было поручено обновить ее в течение 90 дней, однако по состоянию на конец сентября новый вариант документа еще не был обнародован.

Ослабление документа свидетельствует о попытке Вашингтона и Москвы уменьшить жесткость глобальных правил, в то время как Пентагон активно интегрирует искусственный интеллект в военную стратегию. Это происходит на фоне острой дискуссии о рисках передового ИИ, где руководители технологических компаний призывают к международному сотрудничеству и регулированию.

Применение ИИ в боевых действиях уже давно вышло за пределы теории. По данным, американские военные использовали чат-бота Anthropic для определения около тысячи целей в первые 24 часа войны с Ираном, а Израиль активно применяет искусственный интеллект в Газе. Злоумышленники из Йемена и Ирана использовали чат-ботов для разработки управляемого оружия, а на фронте в Украине обе стороны все активнее полагаются на автономные системы поражения целей.

Глобальные договоры способны реально влиять на применение оружия, как это уже произошло с химическим, биологическим оружием и противопехотными минами. Однако, несмотря на это, США и Россия, по мнению экспертов, не поддерживают юридически обязательные правила и имеют непропорциональное влияние на ход переговоров, что было замечено во время обсуждений в Женеве, о чем сообщает The Washington Post.

Заместитель директора отдела вооружений Human Rights Watch Верити Койл отметила, что слабые правила по автономному оружию могут иметь ощутимые последствия: «Это может означать, что машины могут принимать решения о жизни и смерти без контроля человека». Она добавила, что практический эффект будет заключаться в увеличении количества жертв среди гражданского населения и уменьшении ответственности.

Исполнительный директор коалиции Stop Killer Robots Николь ван Рооен отметила, что США и Россия не поддерживают юридически обязательные правила и имеют непропорциональное влияние на ход переговоров.

Такое развитие событий вызывает обеспокоенность относительно будущего конфликтов, ведь передача ИИ решающих функций без человеческого контроля может привести к непредсказуемым последствиям, делая войну более автоматизированной и менее ответственной.