Гонка вооружений цифровой эпохи: США и Китай готовят переговоры по безопасности ИИ — WSJ

США и Китай рассматривают возможность начала официальных переговоров по искусственному интеллекту, поскольку конкуренция Вашингтона и Пекина в этой сфере грозит превратиться в гонку вооружений цифровой эпохи, сообщает WSJ.

Белый дом и правительство Китая рассматривают возможность включения темы ИИ в повестку дня саммита на следующей неделе в Пекине между президентом США Дональдом Трампом и китайским лидером Си Цзиньпином.

Старт официальных переговоров по ИИ ознаменует начало взаимодействия между двумя странами по этому вопросу при администрации Трампа. Это также будет отражать осознание того, что погоня за созданием мощных моделей ИИ может спровоцировать кризис, с которым ни у одного правительства пока не нет средств справиться. Администрация предшественника Трампа Джо Байдена начала диалог с Китаем по этому вопросу, но это дало ограниченные результаты, и с тех пор риски возросли.

По словам собеседников издания, обе стороны нацелены на серию регулярных переговоров, в ходе которых можно было бы обсудить риски, связанные с непредсказуемым поведением моделей искусственного интеллекта, автономными военными системами или атаками негосударственных субъектов с использованием мощных инструментов с открытым кодом.

По словам источников издания, американскую сторону в рамках направления, посвященного искусственному интеллекту, возглавляет министр финансов США Скотт Бессент. Администрация Трампа ждет, пока Пекин назначит своего представителя. До сих пор в переговорах с Вашингтоном по налаживанию такого диалога участвовал заместитель министра финансов Китая Ляо Минь.

В конце концов, Трамп и Си решат, будет ли обсуждение искусственного интеллекта включено в официальную повестку дня их саммита.

Представитель китайского посольства в Вашингтоне Лю Пеню заявил, что Китай готов к диалогу по уменьшению рисков, связанных с искусственным интеллектом.

За пределами администрации Трампа некоторые аналитики из частного сектора уже обсуждают, к чему в конечном итоге могут привести такие дискуссии и могут ли появиться конкретные механизмы кризисного управления, такие как горячая линия по вопросам ИИ для общения между руководством высокого уровня. У США и Китай уже есть оборонная телефонная линия и другие каналы связи на случай кризисных ситуаций — хотя Пекин часто неохотно их использует.

"Основной вопрос заключается не в том, создавать ли горячую линию — что, по моему мнению, имеет определенную ценность, — а в том, будут ли китайцы ею пользоваться, чего они, как показывает история, раньше не делали", — отмечает ученый Джорджтаунского университета и Совета по международным отношениям Раш Доши.

Руководство обеих стран ранее уже сотрудничало в сфере искусственного интеллекта. На саммите в Калифорнии в ноябре 2023 года Байден и Си начали официальный американо-китайский диалог по ИИ. У администрации Байдена в то время было два приоритета: начать регулярный диалог и достичь договоренности о том, что правительства обеих стран не будут связывать ИИ с ядерным командованием и управлением. В 2024 году обе стороны объявили, что полномочия по принятию решений о запуске ядерного оружия будут оставаться за людьми, а не за искусственным интеллектом.

Сам диалог не оправдал ожиданий. Пекин поручил руководить этим направлением переговоров Министерству иностранных дел, а не техническому органу, такому как Министерство науки и технологий, отметил Доши, что ограничило содержательность обмена мнениями.

"Если бы китайцы серьезно относились к диалогу, я думаю, они, вероятно, назначили бы на руководящие роли в своей делегации людей, которые лучше всего разбираются в этой технологии, как это сделали мы", — сказал Доши, добавив, что США не требовали от Пекина соблюдения этой договоренности так, как должны были бы.

То, что искусственный интеллект второй раз поднялся до уровня повестки дня переговоров президентов — при двух разных администрациях — свидетельствует об осознании, которое сформировалось еще до возвращения Трампа в должность: эта технология несет общие стратегические риски, которые требуют привлечения высшего руководства.

В 2023 году Си пригласил бывшего государственного секретаря США Генри Киссинджера в Пекин. Мало кто из американцев имел большее влияние в Китае, чем Киссинджер, чья поездка в Пекин в тени холодной войны проложила путь для визита в 1972 году тогдашнего президента США Ричарда Никсона и нормализации отношений между Вашингтоном и Китаем.

Киссинджер принял приглашение Си, но хотел убедиться, что искусственный интеллект будет включен в повестку дня, отметил Роберт Горматс, который в 1970-х годах был старшим экономическим советником Киссинджера и консультировал его по визиту 2023 года. По словам Горматса, Киссинджер считал, что искусственный интеллект — это сфера, в которой у Китая и США могут быть общие интересы или по крайней мере страны могут достичь взаимопонимания в ключевых вопросах.

"Китайцы согласились", — рассказал Горматс.

Си и Киссинджер обсудили необходимость долгосрочного диалога по вопросам, связанным с искусственным интеллектом, в частности по регулированию и вызовам в сфере взаимной безопасности.

Этот разговор перерос в постоянный неправительственный канал, возглавляемый с американской стороны бывшим главным научным сотрудником Microsoft Крейгом Мунди, с китайскими партнерами, среди которых представители Университета Цинхуа и ведущих китайских компаний, разрабатывающих модели искусственного интеллекта.

Исполнительный директор Aspen Strategy Group Аня Мануэль, которая участвует в неправительственном диалоге по вопросам ИИ, отметила, что дискуссии сосредоточены на безопасности передовых моделей и на том, как разработать системы "защитных барьеров", которые будут гарантировать, что модели ИИ отвечают человеческим законам и намерениям, даже когда будут становиться все более мощными.

Китай готов к диалогу с США по безопасности искусственного интеллекта, заявил эксперт по вопросам торговли Майрон Бриллиант, который недавно встретился с китайскими чиновниками, в частности с вице-премьером Госсовета Китая Хэ Лифеном.

По его словам, Пекин будет конкурировать с США, но в то же время Китай видит смысл в усилении работы над предотвращением глобальных потрясений и злоупотреблений в киберпространстве.

"Целью является стабильность, а не согласование", — добавил Бриллиант.

Ситуация в обеих странах все больше напоминает последнюю холодную войну: управление стратегической стабильностью через диалог с соперником, которого вы намерены превзойти.

"Мы очень эффективно делали это с россиянами. По крайней мере люди, которые занимались безопасностью ядерного оружия, знали друг друга и понимали, как думает другая сторона, даже если они не всегда были единомышленниками", — отмечает Мануэль.

В Украине об искусственном интеллекте говорят как о цифровой трансформации. В мире его уже рассматривают как инструмент влияния на все сферы жизни общества. ИИ больше не о технологиях — это о политическом влиянии и контроле над будущим. Подробнее об этом в статье "Пока Украина разрабатывает стратегию ИИ, мир уже делит влияние на него" рассказывал Алексей Костенко.