Смогут ли Трамп и Си замедлить "гонку вооружений" в сфере ИИ — NYT

Ожидается, что на саммите в Пекине президент США Дональд Трамп и лидер Китая Си Цзиньпин обсудят риски, связанные с искусственным интеллектом. Но во многих аспектах позиции обеих стран по этому вопросу кажутся отдаленными друг от друга как никогда раньше, пишет NYT.

И США, и Китай ведут "гонку" по разработке оружия на основе искусственного интеллекта, которое может нанести огромный вред без участия человека. Мощные новые модели ИИ могут сделать возможными кибератаки, способные парализовать мировые банки и энергосети. Эксперты также бьют тревогу по поводу того, как террористы могут попытаться использовать искусственный интеллект и даже по поводу того, как ИИ может обрести сознание и угрожать человечеству.

Поскольку США и Китай погрузились в борьбу за доминирование в области искусственного интеллекта, это заставляет политиков и некоторых исследователей одновременно опасаться, что установление ограничений на развитие искусственного интеллекта — например, ограничение возможностей этой технологии создавать биологическое оружие — даст другой стране возможность вырваться вперед.

В последние недели американские чиновники хвастались, что ИИ помогает им выбирать цели в войне США против Ирана. Китай во время грандиозного военного парада в прошлом году продемонстрировал дроны, спроектированные для автономного полета рядом с истребителями.

В недели, предшествовавшие визиту Трампа в Пекин, правительства обеих стран открыто вступили в спор из-за технологий. Белый дом недавно обвинил китайские компании, работающие в сфере ИИ, в краже интеллектуальной собственности американских компаний "в промышленных масштабах". Пекин заблокировал попытку Meta приобрести ИИ-стартап китайских инженеров Manus, ссылаясь на соображения национальной безопасности.

Некоторые эксперты выражают осторожный оптимизм в отношении того, что визит Трампа может создать импульс для сотрудничества. Администрация Трампа, которая ранее подчеркивала дерегулирование искусственного интеллекта, в последние недели выразила обеспокоенность по поводу угрозы, которую искусственный интеллект может представлять для кибербезопасности, после того, как американская компания Anthropic объявила о своей новой мощной модели Mythos.

Сотрудничество в сфере регулирования искусственного интеллекта отличается от предыдущих попыток решения глобальных вызовов. Во время "холодной войны" США и СССР пришли к согласию о необходимости избежания несанкционированного или случайного применения ядерного оружия, поэтому обменивались информацией с целью уменьшения этой угрозы.

Что касается искусственного интеллекта, то пока непонятно, какие именно риски представляет эта технология и как лучше всего их минимизировать. Американские ученые, как правило, пытаются обсудить экзистенциальные риски — такие, как патогены, разработанные ИИ, или случайная ядерная война — и риск появления "сверхразума", искусственного интеллекта с возможностями, превышающими возможности человеческого мозга. Китайские исследователи и чиновники чаще подчеркивают риски для социальной стабильности и государственной безопасности. Это включает дезинформацию, распространяемую с помощью ИИ, и чат-ботов, генерирующих ответы, которые ставят под сомнение строгий контроль правительства над интернетом.

"Довольно трудно сотрудничать в сфере стратегических технологий. Это еще сложнее, когда у нас нет четкого и согласованного видения того, какую проблему мы пытаемся решить", — говорит профессор Университета Джорджа Вашингтона Джеффри Динг, который исследует конкуренцию в сфере искусственного интеллекта между США и Китаем.

Эти разногласия в приоритетах с самого начала тормозили сотрудничество. В ноябре 2023 года тогдашний президент США Джо Байден и Си договорились о диалоге о рисках, связанных с ИИ — это был первый случай, когда лидеры двух стран публично признали существование этой темы. Позже представители обеих сторон встретились в Женеве. Американские чиновники хотели обсудить возможное злоупотребление искусственным интеллектом, в частности со стороны Китая. Китайские чиновники сосредоточились на экспортном контроле США, который, по их мнению, был направлен на препятствование развитию ИИ в Китае. Сначала чиновники описывали эту встречу как первую из многих, но больше таких встреч не было.

В конце 2024 года Си и Байден договорились обеспечить контроль человека над ядерным оружием, а не оставлять это искусственному интеллекту. Но по этому вопросу также не было никаких дополнительных деталей.

Сначала США не занимались вопросом привлечения Китая к обсуждению безопасности искусственного интеллекта, отчасти потому, что были уверены в своем технологическом лидерстве, отмечает Скотт Сингер из Фонда Карнеги за международный мир. Только в начале 2025 года, с появлением DeepSeek — китайского стартапа с собственной мощной моделью искусственного интеллекта — американские политики полностью осознали, что китайский ИИ также может повлиять на национальную безопасность США.

Это осознание укрепило конкурентную позицию Вашингтона. Администрация Трампа прямо назвала "победу в гонке" с Китаем причиной для ослабления регулирования в сфере искусственного интеллекта.

Но даже несмотря на то, что официальные переговоры по ИИ зашли в тупик, ученые из обеих стран проводили неформальные дискуссии, часто в рамках научных конференций или аналитических центров. Участники описывали эти встречи как оживленные и отмечали, что они дали много предложений по сотрудничеству, таких как горячая линия на случай инцидентов, связанных с ИИ, или совместные стандарты для тестирования способности ИИ синтезировать биологические угрозы. Хотя эти разговоры не остались вне политического давления.

Профессор Университета Фудань Цзян Тяньцзяо, который участвовал в многочисленных дискуссиях с американскими учеными, отметил, что многие китайские ученые, особенно в сфере безопасности и обороны, скептически относятся к намерениям своих американских коллег. Они указывают на попытки Трампа ослабить внутренние ограничения в отношении искусственного интеллекта в США как на доказательство того, что обсуждение вопросов безопасности является ловушкой, призванной замедлить развитие Китая.

С американской стороны многие ученые и чиновники считают, что Китай тайно работает над созданием искусственного "суперинтеллекта", хотя Пекин почти не упоминает об этом публично, а китайские ученые настаивают, что это не является приоритетом. Китай публично подчеркивает практическое, реальное применение ИИ.

Кроме того, существуют более фундаментальные разногласия. Для длительных дискуссий, организованных американским Институтом Брукингса и китайским Университетом Цинхуа, участники создали глоссарий терминов. По словам научного сотрудника Института Брукингса Кайла Чана, не удалось достичь консенсуса по поводу значения таких фундаментальных терминов, как "потеря контроля" над системами искусственного интеллекта.

"Хотя эти диалоги полезны, в некотором смысле мы все еще находимся на довольно ранней стадии. Впереди еще много работы", — отметил Чан.

"Пожалуй, самым важным результатом встречи между Си и Трампом стало бы просто четкое подтверждение того, что сотрудничество в сфере искусственного интеллекта является политически приемлемым", — отметил Динг из Университета Джорджа Вашингтона.

"Я не считаю, что нам нужно всеобъемлющее двустороннее соглашение, которое бы имело обязывающий характер. Нужно лишь продемонстрировать, что это сфера, в которой заинтересованные стороны из Китая и США могут и в дальнейшем сотрудничать", — добавил он.

WSJ также писала, что в повестку дня саммита могут включить вопросы безопасности ИИ. США и Китай рассматривают возможность начала официальных переговоров по искусственному интеллекту, поскольку конкуренция Вашингтона и Пекина в этой сфере грозит превратиться в гонку вооружений цифровой эпохи.

В Украине об искусственном интеллекте говорят как о цифровой трансформации. В мире его уже рассматривают как инструмент влияния на все сферы жизни общества. ИИ больше не про технологии — это про политическое влияние и контроль над будущим. Подробнее об этом в статье "Пока Украина разрабатывает стратегию ИИ, мир уже делит влияние на него" рассказывал Алексей Костенко.