Время роботов-убийц уже наступило: почему ИИ становится все опаснее с каждым днем

В понедельник в Вене (Австрия) прошла встреча военных, чиновников и разработчиков из более чем 100 стран для обсуждения влияния искусственного интеллекта (ИИ) на военные технологии. Политики считают, что военный ИИ нужно немедленно взять под контроль, пишет Вloomberg.

Поскольку автономные системы вооружения быстро распространяются и внедряются, в том числе на полях сражений в Украине и в Газе, беспилотные летательные аппараты, оснащенные ИИ, помогают военным решать, поражать цели или нет. Не исключено, что такие решения уже совсем скоро можно будет полностью передать машинам.

"Это момент Оппенгеймера наших дней", — сказал министр иностранных дел Австрии Александр Шалленберг, имея в виду Дж. Роберта Оппенгеймера, который помог изобрести атомную бомбу в 1945 году, а затем стал выступать за контроль над распространением ядерного оружия.

Распространение глобального конфликта в сочетании с финансовыми стимулами для компаний, продвигающих ИИ, усложняет контроль над роботами-убийцами, считает Яан Таллин, один из инвесторов платформы Alphabet Inc. DeepMind Technologies.

Правительства по всему миру стараются сотрудничать с компаниями, интегрирующими ИИ-инструменты в оборонный сектор. Например, Пентагон вкладывает миллионы долларов в стартапы в области ИИ. Европейский Союз платит за услуги по созданию базы данных изображений, которая поможет оценить цели на поле боя посредством машинного зрения. Израиль использует программу искусственного интеллекта под названием "Лаванда" для определения целей.

"Время роботов-убийц уже наступило", — сказал Энтони Агирре, физик, предсказавший траекторию развития технологий в 2017 году. — "Нам нужен договор о контроле над вооружениями, согласованный Генеральной Ассамблеей ООН".

Но сторонники дипломатических решений, скорее всего, будут разочарованы в краткосрочной перспективе, по мнению Александра Кментта, главного чиновника Австрии по вопросам разоружения. Он считает, что классический подход к контролю над вооружениями не работает, потому что речь идет не об одной системе вооружений, а о комбинации технологий двойного назначения. Вместо того чтобы заключить новый договор "magnum opus", Кментт предположил, что страны, возможно, будут вынуждены доводить дело до конца, используя уже имеющиеся в их распоряжении правовые инструменты. По его словам, усиление экспортного контроля и гуманитарного законодательства может помочь сдержать распространение ИИ-систем.

В долгосрочной перспективе, после того как технология станет доступной негосударственным субъектам и, возможно, террористам, страны будут вынуждены вырабатывать новые правила, предсказывает Арнольдо Андре Тиноко, министр иностранных дел Коста-Рики. Легкая доступность автономного оружия устраняет ограничения, из-за которых раньше лишь немногие могли участвовать в гонке вооружений, считает он. А теперь любой желающий, владеющий 3D-принтером и базовыми знаниями в области программирования, может создавать дроны и использовать их в качестве оружия массового поражения. Автономные системы вооружения навсегда изменили концепцию международной стабильности, подчеркнул министр.