Человечество придумало новое "ядерное оружие": стартовала опасная гонка военного ИИ

Мир входит в эру, где искусственный интеллектстановится аналогом ядерного оружия, а дроны воюют без участия человека. США, Китай и Россия уже включились в гонку, которая может навсегда изменить понятие глобальной безопасности.

Об этом говорится в статье il Giornale.

Военные технологии, основанные на искусственном интеллекте, все больше беспокоят экспертов. Специалисты предостерегают: «Существует риск, что такая технология выйдет из-под контроля человека».

Традиционные виды оружия массового поражения уступают основанным на ИИ системам

Современное развитие военных технологий и конфликты последних лет — от Украины до Ближнего Востока — свидетельствуют, что традиционные виды оружия массового поражения постепенно теряют свою доминирующую роль, уступая системам, основанным на ИИ, которые все меньше контролируются человеком.

Подобно периоду после Второй мировой войны, сейчас США, Россия и Китай активно разрабатывают вооружение на базе ИИ как инструмент сдерживания и формирования системы «гарантированного взаимного уничтожения», известной еще со времен холодной войны. Об этом заявил Палмер Лаки — основатель калифорнийского оборонного стартапа Anduril, который специализируется на создании автономных дронов с искусственным интеллектом. Его позицию цитирует The New York Times, недавно опубликовавшая развернутый материал о войнах будущего.

По данным источников в сфере обороны и разведки, каждая страна стремится сформировать максимально мощный технологический арсенал на случай конфликтов нового типа — когда противостояние будет происходить не только между людьми, но и между дронами и алгоритмами, причем по сценариям, которые пока остаются непонятными для человечества.

Автономное оружие с ИИ сравнивают с началом ядерной эпохи

В США уровень беспокойства возрос после военного парада в Пекине прошлой осенью. Во время мероприятия, на котором присутствовали лидер КНР Си Цзиньпин, а также лидеры России и Северной Кореи, Китай продемонстрировал новейшие беспилотники, способные действовать автономно вместе с боевой авиацией. После этого в Пентагоне пришли к выводу о необходимости ускорить разработку боевых дронов и усилить взаимодействие с оборонными компаниями для реагирования на новые вызовы.

Ключевой особенностью современных вооружений и систем обороны является их способность действовать автономно благодаря использованию искусственного интеллекта. Это существенно снижает необходимость участия человека в принятии решений, в частности при поражении движущихся целей или отражении атак. Подобные технологические изменения, которые уже распространяются не только среди ведущих государств, все чаще сравнивают с началом ядерной эпохи, которая в 1940-х годах сформировала нестабильный баланс страха между сверхдержавами.

В то же время, как отмечает NYT, если последствия применения ядерного оружия хорошо изучены, то потенциал военного использования искусственного интеллекта пока остается до конца не понятным.

Показательным примером, хоть и вне сугубо военной сферы, стало решение компании Anthropic отказаться от запуска новой модели ИИ Mythos. Причиной стало то, что она потенциально способна выводить из строя компьютерные системы, которые обеспечивают работу критической инфраструктуры — в частности банков, энергосетей и систем управления воздушным движением.

Еще одно существенное отличие от ядерной эпохи заключается в роли частного сектора: сейчас стартапы и инвесторы активно влияют на развитие военных технологий наряду с государствами и научными учреждениями. В то же время определить безоговорочного лидера в гонке военного ИИ сложно — значительная часть информации засекречена, хотя масштаб противостояния очевиден. Еще в 2017 году президент России Владимир Путин заявил, что тот, кто станет лидером в сфере искусственного интеллекта, «станет властелином мира».

Два года назад Си Цзиньпин назвал эту сферу «главным полем боя» геополитической конкуренции. Именно такие оценки, в частности, подтолкнули министра обороны США Пита Хегсета в январе дать приказ всем подразделениям вооруженных сил активно внедрять ИИ, ускоряя этот процесс «бешеными темпами».

Попытки урегулировать сферу военного ИИ ограничены

Несмотря на стремительное развитие, попытки урегулировать эту сферу остаются ограниченными. Единственной заметной договоренностью стало соглашение между США и Китаем в 2024 году по вооружениям на базе ИИ, которое, однако, носит рекомендательный характер и предусматривает сохранение человеческого контроля над решением об использовании ядерного оружия. Других подобных международных инициатив пока нет.

Тем временем развитие искусственного интеллекта только набирает обороты. По оценкам экспертов, четыре года войны в Украине «стали лабораторией для мира». В последнее время, по их словам, Киев начал передавать данные с поля боя компании Palantir — аналитической структуре, соучредителем которой является Питер Тиль, — а также другим технологическим компаниям, чтобы усовершенствовать возможности ИИ в ведении боевых действий.

Преимущества и угрозы от вооружений на базе ИИ

По убеждению Лаки, наращивание арсенала вооружений на основе искусственного интеллекта по логике, подобной холодной войне, может стать сдерживающим фактором для больших конфликтов.

«Даже войны между сверхдержавами могут угаснуть, если удастся создать инфраструктуру, способную эффективно сдерживать их», — подчеркнул основатель компании.

В то же время часть экспертов обращает внимание на риски: если концепция сдерживания базируется на рациональности, то системы с искусственным интеллектом создаются для действий быстрее, чем способен реагировать человек, что может привести к опасным последствиям.

Исследования и учения, проведенные в 2020 году, показали, что автономные системы способны ускорять эскалацию во время международных кризисов и уменьшать уровень человеческого контроля. Это вызывает беспокойство среди аналитиков и свидетельствует о том, что технологии, негативные эффекты которых уже становятся заметными, могут в перспективе выйти из-под контроля.

К слову, ранее сообщалось, что Пентагон предоставил ИИ-системеMaven от Palantir статус стандартного вооружения, обеспечив компании долгосрочное финансирование. Система, которую называют «Google Earth для войны», в 50 раз ускоряет обнаружение целей и уже используется в Украине и в операциях против Ирана. Несмотря на высокую эффективность, технология вызывает острую критику из-за риска ошибок: алгоритмы не всегда способны отличить оружие от гражданских вещей, что приводит к трагедиям, например удар по школе в Иране.