США и Россия ослабили правила контроля над автономным оружием на базе ИИ — WP

США и Россия добились смягчения проекта международных правил, касающихся использования летального автономного оружия. Из документа был удален ряд требований, в частности обязательная проверка целей человеком перед нанесением удара. Изменения были внесены в ходе многочасовых переговоров в Женеве в рамках работы ООН над потенциально юридически обязательным соглашением. Об этом сообщило издание The Washington Post.

В начале сентября сотни дипломатов собрались в Женеве на переговорах ООН по будущему регулированию летального автономного оружия. Речь шла о первом глобальном соглашении, которое могло бы определить правила использования систем искусственного интеллекта в боевых действиях. В последний день США и Россия в течение примерно 15 часов настаивали на внесении изменений в документ. В результате из него были исключены несколько положений, призванных ограничить риски использования ИИ в оружии.

OpenAI бесплатно передаст Украине систему киберзащиты

В частности, стороны исключили требование, чтобы такие системы работали предсказуемо и надежно. Также исчез пункт о необходимости учитывать этические соображения при применении автономного вооружения. Еще одна норма предусматривала, что человек должен проверять военные цели, определенные искусственным интеллектом, до момента нанесения удара. Ее также исключили.

Обсуждение проходило за закрытыми дверями. Камеры ООН выключили, а представителей гражданского общества попросили покинуть зал. Делегации США и России насчитывали примерно по десять юристов каждая, что почти вдвое превышало представительство многих других стран. Изменения вносились настолько быстро, что меньшие делегации не успевали реагировать. Один из собеседников охарактеризовал процесс как постепенное ослабление документа из-за большого количества мелких правок.

Государственный департамент США, Министерство иностранных дел России и ООН. Ослабление документа показывает, что Вашингтон и Москва пытаются снизить жесткость глобальных правил в отношении автономного оружия. Это происходит на фоне того, что Пентагон активно интегрирует искусственный интеллект в военную стратегию.

Переговоры проходят в период острой дискуссии о рисках развития передовых систем ИИ. Руководители технологических компаний призывают мировых лидеров совместно работать над ограничениями. ООН уже несколько лет пытается продвинуть регулирование автономного оружия, но ранее результаты были ограниченными. Нынешние переговоры стали самым значительным прорывом на пути к потенциальному международному договору.

Попытки США ослабить глобальные правила также могут показать, как Вашингтон будет подходить к регулированию собственного военного использования ИИ. Американские чиновники сейчас пересматривают внутреннюю директиву о летальных автономных системах, принятую в 2023 году.

Заместитель директора отдела по вопросам вооружений в Human Rights Watch Верити Койл заявила, что слабые правила могут иметь серьезные последствия.

«Это может означать, что машины смогут принимать решения о жизни и смерти без контроля со стороны человека. Практические последствия поразительны: больше вреда для гражданского населения, меньше ответственности и более быстрое скатывание к более рискованной, автоматизированной войне», — сказала она.

Параллельно в США Пентагон продолжает пересмотр собственной директивы по автономному оружию. В июне Трамп подписал меморандум с требованием обновить документ в течение 90 дней. По состоянию на конец сентября новая версия еще не обнародована. Директива 2023 года, принятая при администрации Джо Байдена, содержала несколько положений, схожих с теми, которые были исключены из документа ООН. Она требовала применять человеческое суждение при контроле автономных и полуавтономных систем. Кроме того, операторы таких систем должны были соблюдать законы войны и международные договоры.

«Миллиард смертей»: Билл Гейтс предупредил о беспрецедентной угрозе ИИ

Напомним, что президент Украины Владимир Зеленский на Генеральной Ассамблее ООН призвал завершить войну до того, как искусственный интеллект начнет самостоятельно влиять на решения на поле боя. По его оценке, такой сценарий может стать реальностью уже в 2027 году.

Кроме того, президент США Дональд Трамп выступил против ужесточения регулирования искусственного интеллекта в США и назвал опасения относительно его опасности «фейком». Он заявил, что страна уже сделала достаточно для предотвращения катастрофических рисков и дополнительные ограничения не нужны. Трамп назвал единственным необходимым «предохранителем» сильного и умного президента.