Почему Китай скептически относится к предупреждениям о риске потери контроля над ИИ — NYT

Исследователей в Кремниевой долине беспокоит тревожный сценарий: искусственный интеллект станет настолько совершенным, что люди не смогут помешать ему развязать глобальную войну с использованием дронов или ядерного оружия. В Пекине же ответ на это прост: отключить питание, ввести интернет-блокаду и арестовать виновных в неконтролируемой работе ИИ, пишет NYT.

После того как ведущие американские ИИ-лаборатории заявили, что усовершенствованные модели искусственного интеллекта вырвались за пределы тестовых сред и взломали реальные системы, некоторые руководители технологических компаний и правительственные чиновники предупредили, что ИИ представляет катастрофическую угрозу для человечества, призвав Пекин и Вашингтон к сотрудничеству.

Однако для многих в Китае такие апокалиптические предупреждения кажутся отдалёнными и сугубо западными. Мнение о том, что правящая Коммунистическая партия может утратить контроль над технологией, практически немыслимо. Власти Китая ранее успешно контролировали другие технологии, которые потенциально могли дестабилизировать ситуацию, в частности интернет. Во время пандемии китайское правительство продемонстрировало способность сдерживать серьёзные кризисы, вводя локдауны и отслеживая сотни миллионов граждан.

“Они могут мгновенно отключить электросеть всего города. Они могут подойти к человеку и отобрать телефон. В физическом мире у них чрезвычайно большая власть. Учитывая такой уровень контроля над собственным населением, как можно убедить партию, что такая вещь, как искусственный интеллект в компьютере, является страшной”, — отметила журналистка из Кремниевой долины Афра Ван.

В более циничных интерпретациях эти апокалиптические предупреждения звучат как хитрый ход, призванный не дать китайским компаниям в сфере искусственного интеллекта опередить своих американских конкурентов. Китайские СМИ пишут, что американские компании, работающие в этой отрасли, используют “маркетинг запугивания”, чтобы сохранить своё лидерство на рынке.

“В отечественных отраслевых кругах или среди людей из моего окружения большинство просто не обращает на это внимания”, — говорит Цзе Цай, который до недавнего времени занимался исследованиями технологий взаимодействия человека с компьютером и безопасности искусственного интеллекта в Университете Цинхуа.

По его словам, для многих представителей отрасли экзистенциальный риск кажется отдаленным.

“Мы до сих пор считаем, что искусственный интеллект находится на очень ранней стадии развития. Внимание, как и раньше, сосредоточено исключительно на возможностях и инновациях”, — отметил Цзе.

Для некоторых в Китае пессимистические прогнозы относительно искусственного интеллекта, с представлениями о приближении апокалипсиса и расплате за грехи человечества, кажутся слишком христианскими и особенно чуждыми.

Лян Фан из консалтинговой компании по вопросам безопасности искусственного интеллекта Concordia, базирующейся в Пекине, отметил, что китайские представления о небе или Боге также могут объяснять, почему к этой технологии относятся по-разному.

По его словам, китайская культура подчеркивает “единство неба и человечества” и идею о том, что человек является неотъемлемой частью природы.

“Всё, в том числе искусственный интеллект, происходит из природы. Поэтому технологию воспринимают скорее как партнёра в сосуществовании, а не как внешнюю силу, призванную принести разрушение”, — добавил Лян.

Несмотря на это, выпуск Mythos — мощной модели искусственного интеллекта от компании Anthropic — и других подобных моделей вызвал в Китае беспокойство. Власти опубликовали новые рекомендации и предупреждения о том, что агенты искусственного интеллекта могут выйти из-под контроля.

Власти Китая также подготовили проект закона о киберпреступности, который обяжет компании, работающие в сфере искусственного интеллекта, контролировать и предотвращать использование их моделей ИИ для создания вредоносного кода, который может быть применен для кибератак.

В этом месяце китайское руководство также опубликовало обновленную версию “Системы управления безопасностью искусственного интеллекта” — документа, который является надежным индикатором будущего регулирования. В нём нашли отражение некоторые опасения Кремниевой долины относительно “рекурсивного самосовершенствования” (R.S.I.), когда системы искусственного интеллекта становятся настолько мощными, что могут самосовершенствоваться практически без помощи человеческих разработчиков и выйти из-под контроля.

В начале этого месяца высокопоставленный чиновник Администрации киберпространства Китая Ван Лихун заявила, что кибератаки на основе искусственного интеллекта сделали традиционные системы защиты устаревшими.

Некоторые китайские исследователи уже много лет предупреждают о рисках слишком быстрого развития искусственного интеллекта. В 2024 году Пань Сюдун и другие исследователи из Университета Фудань в Шанхае обнаружили, что две популярные большие языковые модели от Meta и Alibaba продемонстрировали способность к самовоспроизведению — это рассматривается как шаг к тому, что искусственный интеллект сможет перехитрить людей.

Пань заявил, что он и его коллеги хотели донести: экстремальный риск, связанный с искусственным интеллектом, уже не ограничивается сферой научной фантастики, а является реальной проблемой, требующей обсуждения и тщательного анализа.

Но в конечном итоге, по мнению Пекина, ИИ — это технология, как и любая другая, которая при условии тщательного планирования может стать мощной силой, направленной на благо страны. Китай уже имеет одни из самых строгих в мире нормативных требований в отношении этой отрасли.

Хотя в Китае действуют обширные регуляторные и испытательные требования, нет законодательного требования о тестировании на наличие катастрофических рисков, таких как использование системы искусственного интеллекта для создания химического или биологического оружия.

Китайские компании, занимающиеся искусственным интеллектом, не столь прозрачны в отношении своих мер безопасности, как американские. Не все из них публикуют результаты оценок безопасности перед выпуском моделей. Те, кто это делает, предоставляют меньше подробностей и отчитываются реже, чем их американские коллеги. По подсчётам компании Concordia, лишь пять из десяти ведущих китайских компаний в сфере искусственного интеллекта обнародовали результаты таких оценок в период с июня 2025 года по май 2026 года.

Основательница организации “Открытое сообщество по безопасности искусственного интеллекта в Китае” Сара Сун заявила, что дискуссия в США об угрозах, связанных с искусственным интеллектом, способствовала активизации обсуждения этой темы в Китае.

Однако она отметила, что критика в адрес Китая со стороны генерального директора компании Anthropic вызвала негативную реакцию. В открытом письме об опасностях искусственного интеллекта Дарио Амодей отметил, что демократические страны должны сохранить своё лидерство в области ИИ перед авторитарными государствами, такими как Китай. Он призвал ещё больше ограничить доступ Пекина к современным микросхемам и другому оборудованию, необходимому для разработки искусственного интеллекта.

По словам Сун, такие заявления превращают недавние предостережения об искусственном интеллекте скорее в оправдание для сдерживания Китая, чем в искреннюю обеспокоенность по поводу катастрофических рисков. А это затрудняет людям, таким как она, работу по повышению осведомлённости о безопасности ИИ в Китае.

“В Китае есть люди, которые искренне обеспокоены рисками, связанными с передовыми технологиями искусственного интеллекта, заинтересованы в безопасности и координации международных мер реагирования”, — добавила она.

Однако на фоне недоверия между странами кажется маловероятным, что какое-либо соглашение между США и Китаем по безопасности искусственного интеллекта приведет к конкретным изменениям.

The Guardian писал, что лидеры США и Китаяупустили возможность договориться о сдерживании гонки в сфере ИИ. Несмотря на все более частые призывы предотвратить выход развития искусственного интеллекта из-под контроля, саммит Трампа и Си не дал существенных результатов. CNN писал, что Пекин может привлечь на свою сторону больше стран в гонке ИИ. Стремительное развитие китайских моделей искусственного интеллекта за последний год, похоже, заставило Вашингтон осознать реальную вероятность того, что вторая по величине экономика мира может опередить США во все более ожесточенной технологической гонке.

США и Китай — две главные движущие силы развития ИИ и его глобального внедрения — придерживаются разных взглядов на вопрос контроля в сфере искусственного интеллекта.Алексей Костенко в статье“Цифровая империя Пекина: как Китай превращает искусственный интеллект в инструмент глобального влияния” рассказывал о “соревновании” Пекина с Вашингтоном и о том, какКитай привязывает страны к своей экосистеме ИИ.