ШІ загрожує безпеці Китаю: спецслужби КНР попередили про ризики

Китай оприлюднив одне з найдетальніших попереджень про ризики штучного інтелекту, назвавши його потенційною загрозою для політичної стабільності та критичної інфраструктури країни. Майже одночасно генеральний директор американської компанії Anthropic Даріо Амодей закликав уповільнити розвиток передових моделей ШІ, наголосивши, що їхні можливості випереджають заходи безпеки, пише Bloomberg.

У статті, опублікованій в офіційному журналі China Cyberspace, міністр державної безпеки КНР Чень Ісінь заявив, що «зловмисне використання ШІ супротивниками може становити пряму загрозу політичній, інституційній та ідеологічній безпеці Китаю». За його словами, сучасні системи ШІ дедалі краще знаходять вразливості в комп'ютерних системах і допомагають створювати шкідливе програмне забезпечення для їх використання.

Одним із головних ризиків Чень Ісінь назвав можливість того, що «ворожі сили» використовуватимуть ШІ для ведення «війн за громадську думку» та «когнітивних воєн». За його словами, діпфейки, автоматично згенеровані тексти, зображення та боти в соціальних мережах можуть поширювати політичні чутки, дезінформацію та посилювати суспільні конфлікти. Такі інструменти, на думку китайського посадовця, здатні впливати на громадську думку та підривати стабільність держави.

Окремо Чень Ісінь звернув увагу на ризики для розвідки та кібербезпеки. Він зазначив, що пошукові боти, системи аналізу великих масивів даних і технології профайлингу на базі ШІ можуть допомогти іноземним спецслужбам збирати державні дані, комерційні таємниці та персональну інформацію.

Міністр також попередив про міжнародну конкуренцію у сфері ШІ. На його думку, держави, які отримають перевагу в цій галузі, можуть прикриватися міркуваннями національної безпеки, щоб встановлювати технологічний контроль, монополізувати стандарти та розвивати закриті екосистеми.

Це одна з найчіткіших публічних заяв Пекіна про те, як країна оцінює ризики розвитку ШІ. Вона з'явилася на тлі закликів керівників американських технологічних компаній діяти обережніше, хоча матеріал не згадує заяви Anthropic чи OpenAI про необхідність уповільнити перегони зі створення нових моделей.

Напередодні Даріо Амодей у своєму блозі заявив, що розвиток ШІ відбувається швидше, ніж створюються механізми його безпечного використання. Він запропонував посилити координацію між компаніями, урядом США та іншими демократичними країнами.

Тим часом лідер Китаю Сі Цзіньпін на саміті БРІКС запропонував створити «спільноту»» ШІ з відкритим кодом. Пекін закликав країни блоку об'єднати зусилля в розробці великих мовних моделей і приєднатися до створеної КНР Всесвітньої організації співпраці у сфері ШІ. У такий спосіб Китай намагається розширити свій геополітичний вплив на глобальні стандарти регулювання технології та запропонувати країнам, що розвиваються, дешевшу альтернативу західним розробкам.