Чому Китай скептично ставиться до попереджень про ризик втрати контролю над ШІ — NYT

Дослідників у Кремнієвій долині турбує тривожний сценарій: штучний інтелект стане настільки досконалим, що люди не зможуть завадити йому розпочати глобальну війну з використанням дронів або ядерної зброї. У Пекіні ж відповідь на це проста: відключити живлення, запровадити інтернет-блокаду та заарештувати винних у неконтрольованій роботі ШІ, пише NYT.

Після того як провідні американські ШІ-лабораторії заявили, що вдосконалені моделі штучного інтелекту вирвалися за межі тестових середовищ і зламали реальні системи, деякі керівники технологічних компаній та урядовці попередили, що ШІ становить катастрофічну загрозу для людства, закликавши Пекін та Вашингтон до співпраці.

Однак для багатьох у Китаї такі апокаліптичні попередження здаються віддаленими й суто західними. Думка про те, що керівна Комуністична партія може втратити контроль над технологією, є майже немислимою. Влада Китаю раніше успішно контролювала інші технології, що потенційно могли дестабілізувати ситуацію, зокрема інтернет. Під час пандемії китайський уряд продемонстрував здатність стримувати серйозні кризи, запроваджуючи локдауни та відстежуючи сотні мільйонів громадян.

“Вони можуть миттєво відключити електромережу всього міста. Вони можуть підійти до людини та відібрати телефон. У фізичному світі вони мають надзвичайно велику владу. З огляду на такий рівень контролю над своїм населенням, як можна переконати партію, що така річ, як штучний інтелект у комп’ютері, є страшною?” — зазначила журналістка із Кремнієвої долини Афра Ван.

У цинічніших інтерпретаціях ці апокаліптичні попередження звучать як хитрий хід, покликаний не дати китайським компаніям у сфері штучного інтелекту випередити своїх американських конкурентів. Китайські ЗМІ пишуть, що компанії зі США, які працюють у цій галузі, використовують “маркетинг залякування”, щоб зберегти своє лідерство на ринку.

“У вітчизняних галузевих колах або серед людей з мого оточення більшість просто не звертає на це уваги”, — каже Цзе Цай, який донедавна займався дослідженнями технологій взаємодії людини з комп’ютером та безпеки штучного інтелекту в Університеті Цінхуа. 

За його словами, для багатьох представників галузі екзистенційний ризик здається віддаленим.

“Ми досі вважаємо, що штучний інтелект перебуває на дуже ранній стадії розвитку. Увага, як і раніше, зосереджена виключно на можливостях та інноваціях”, — зазначив Цзе. 

Для декого в Китаї песимістичні прогнози щодо штучного інтелекту, з уявленнями про наближення апокаліпсиса та розплату за гріхи людства, здаються надто християнськими й особливо чужими. 

Лян Фан із консалтингової компанії з питань безпеки штучного інтелекту Concordia, яка базується в Пекіні, зазначив, що китайські уявлення про небо чи Бога також можуть пояснювати, чому до цієї технології ставляться по-різному.

За його словами, китайська культура наголошує на “єдності неба та людства” та на ідеї, що людина є невіддільною частиною природи. 

“Усе, зокрема і штучний інтелект, походить із природи. Тому технологію сприймають радше як партнера у співіснуванні, а не як зовнішню силу, призначену принести руйнування”, — додав Лян.

Попри це, випуск Mythos — потужної моделі штучного інтелекту від компанії Anthropic — та інших подібних моделей викликав у Китаї занепокоєння. Влада опублікувала нові рекомендації та попередження про те, що агенти штучного інтелекту можуть вийти з-під контролю.

Влада Китаю також підготувала проєкт закону про кіберзлочинність, який зобов’яже компанії, що працюють у сфері штучного інтелекту, контролювати та запобігати використанню їхніх моделей ШІ для створення шкідливого коду, який може бути застосований для кібератак.

Цього місяця китайське керівництво також опублікувало оновлену версію “Системи управління безпекою штучного інтелекту” — документа, який є надійним індикатором майбутнього регулювання. У ньому знайшли відгук деякі побоювання Кремнієвої долини щодо “рекурсивного самоудосконалення” (R.S.I.), коли системи штучного інтелекту стають настільки потужними, що можуть самовдосконалюватися майже без допомоги людських розробників і вийти з-під контролю.

На початку цього місяця високопосадовець Адміністрації кіберпростору Китаю Ван Ліхун заявила, що кібератаки на основі штучного інтелекту зробили традиційні системи захисту застарілими. 

Деякі китайські дослідники роками попереджають про ризики надто швидкого розвитку штучного інтелекту. У 2024 році Пань Сюдун та інші дослідники з Університету Фудань у Шанхаї виявили, що дві популярні великі мовні моделі від Meta та Alibaba продемонстрували здатність до самовідтворення — це розглядається як крок до того, що штучний інтелект зможе перехитрити людей.

Пань заявив, що він та його колеги хотіли донести: екстремальний ризик, пов’язаний зі штучним інтелектом, вже не обмежується сферою наукової фантастики, а є реальною проблемою, яка вимагає обговорення та ретельного аналізу.

Але зрештою, на думку Пекіна, ШІ — це технологія, як і будь-яка інша, яка за умови ретельного планування може стати потужною силою, спрямованою на благо країни. Китай уже має одні з найсуворіших у світі нормативних вимог щодо цієї галузі. 

Хоча в Китаї діють широкі регуляторні та випробувальні вимоги, немає законодавчої вимоги щодо тестування на наявність катастрофічних ризиків, таких як використання системи штучного інтелекту для створення хімічної або біологічної зброї.

Китайські компанії, що займаються штучним інтелектом, не настільки прозорі щодо своїх заходів безпеки, як американські. Не всі з них оприлюднюють результати оцінок безпеки перед випуском моделей. Ті, хто це робить, надають менше деталей і звітують рідше, ніж їхні американські колеги. За підрахунками компанії Concordia, лише п’ять із десяти провідних китайських компаній у сфері штучного інтелекту оприлюднили результати таких оцінок у період з червня 2025 року до травня 2026 року.

Засновниця організації “Відкрита спільнота з безпеки штучного інтелекту в Китаї” Сара Сун заявила, що дискусія в США щодо загроз, пов’язаних зі штучним інтелектом, сприяла активізації обговорення цієї теми в Китаї.

Однак вона зауважила, що критика на адресу Китаю з боку генерального директора компанії Anthropic викликала негативну реакцію. У відкритому листі про небезпеки штучного інтелекту Даріо Амодей зазначив, що демократичні країни повинні зберегти своє лідерство в ШІ перед авторитарними державами, такими як Китай. Він закликав ще більше обмежити доступ Пекіна до сучасних мікросхем та іншого обладнання, необхідного для розробки штучного інтелекту.

За словами Сун, такі заяви роблять нещодавні застереження щодо штучного інтелекту радше виправданням для стримування Китаю, ніж справжньою стурбованістю щодо катастрофічних ризиків. А це ускладнює людям, таким як вона, роботу з підвищення обізнаності про безпеку ШІ в Китаї.

“У Китаї є люди, які щиро стурбовані ризиками, пов’язаними з передовими технологіями штучного інтелекту, зацікавлені в безпеці та координації міжнародних заходів реагування”, — додала вона.

Однак на тлі недовіри між країнами здається малоймовірним те, що будь-яка угода між США та Китаєм щодо безпеки штучного інтелекту призведе до конкретних змін.

The Guardian писало, що лідери США та Китаю змарнували можливість домовитися про стримування перегонів у сфері ШІ. Попри дедалі частіші заклики запобігти виходу розвитку штучного інтелекту з-під контролю, саміт Трампа та Сі не дав суттєвих результатів. CNN писав, що Пекін може залучити на свій бік більше країн у ШІ-перегонах. Стрімкий розвиток китайських моделей штучного інтелекту за останній рік, схоже, змусив Вашингтон усвідомити реальну ймовірність того, що друга за величиною економіка світу може випередити США в дедалі запекліших технологічних перегонах.