Китай розробляє технологію на основі ШІ для виявлення потенційних дисидентів — NYT

Китайська компанія намагається розробити технологію на основі штучного інтелекту, яка дозволить авторитарним урядам не тільки стежити за дисидентами, але й потенційно передбачати, хто може стати інакодумцем у майбутньому, пише NYT.

Цей проєкт, який, судячи з усього, перебуває на стадії дослідження, нагадує антиутопічну наукову фантастику та дає уявлення про світ, у якому авторитарна держава здатна вживати заходів проти своїх громадян ще до того, як вони почнуть висловлювати публічну незгоду.

Китайська компанія Geedge Networks продає комерційну версію “Великого брандмауера” — програмного забезпечення для спостереження та цензури, яке Китай використовує для контролю за діяльністю в інтернеті. Ці інструменти дозволяють урядам відстежувати інтернет-трафік і сигналізувати, коли хтось намагається обійти традиційну інтернет-цензуру.

Але, згідно з витоком документів компанії, фірма працює над новими розробками, які використовують штучний інтелект для аналізу даних про місцеперебування та використання інтернету, щоб передбачити, хто може зробити або сказати щось критичне на адресу уряду, за даними дослідників з Університету Вандербільта.

Така технологія, якщо її вдосконалити, надасть авторитарним урядам потужний інструмент для боротьби з “ворогами”.

Сама думка про те, що авторитарний уряд може використовувати штучний інтелект для придушення інакомислення, вже викликає серйозне занепокоєння. Але, на думку деяких представників галузі, використання ШІ для прогнозування інакомислення задовго до того, як людина встигне вчинити будь-які дії, перетворилося на справжній критичний сценарій.

“Ось що відбувається, коли масове стеження поєднується зі штучним інтелектом. Без системи стримувань і противаг те, що Китай робить зі своїми громадянами, є анонсом того, що стане можливим будь-де, де ці інструменти залишаються без контролю”, — зазначив Бретт Дж. Голдштейн з Інституту національної безпеки Університету Вандербільта.

Аналітики Університету Вандербільта виявили, що компанія Geedge, співпрацюючи зі своїм дослідницьким підрозділом MESA Lab, підтримуваним урядом, розробляла технологію, яка б створювала профілі китайських громадян, а потім використовувала ШІ для виявлення тих, хто може становити політичний ризик.

Однак прогрес компанії, схоже, був уповільнений через запроваджені США за часів  адміністрації Джо Байдена експортні обмеження на ШІ-чипи американського виробництва. Документи Geedge показують, що у 2024 році, коли діяли жорсткі американські експортні обмеження щодо Китаю, у компанії були труднощі з пошуком достатньої обчислювальної потужності для технологій спостереження.

За словами американських чиновників, сьогодні Geedge має доступ до достатньої кількості графічних процесорів для своїх поточних розробок. Однак для реалізації найамбітнішої версії технології прогнозування компанії, ймовірно, знадобляться досконаліші чипи, ніж ті, які Китай може придбати.

Колишні чиновники адміністрації Байдена кажуть, що, за даними розвідки, їхня політика обмеження доступу Китаю до високотехнологічних чипів американського виробництва дозволила зберегти перевагу США у сфері штучного інтелекту та уповільнити розвиток інших китайських технологій.

Однак залишається відкритим питання, чи сповільнять американські експортні обмеження розвиток Китаю в напрямку більш репресивного використання ШІ.

Адміністрація нинішнього президента США Дональд Трампа послабила деякі експортні обмеження, запроваджені за часів Байдена, та зберегла обмеження на найсучасніші процесори від Nvidia — американської компанії, яка розробляє найпотужніші у світі ШІ-чипи. Під час недавньої поїздки Трампа до Пекіна американські чиновники заявили, що Китай отримає доступ до досконалішої версії чипів Nvidia.

Але Китай намагається позбавити свої компанії, що займаються штучним інтелектом, залежності від використання чипів американського виробництва, щоб експортний контроль більше не міг стримувати їхні амбіції.

Нова інформація отримана з великого масиву даних — ста тисяч документів компанії Geedge, опублікованих у вересні минулого року. На основі цих документів ЗМІ описали, як Geedge експортувала своє програмне забезпечення для мережевої безпеки до таких країн, як Ефіопія, Казахстан, М’янма та Пакистан, що дозволило їм здійснювати стеження в мобільних мережах.

Дослідники з Університету Вандербільта, які ретельно вивчали документи, зосередилися не на технології, яку продавала Geedge, а на технології наступного покоління, яку компанія намагалася розробити, а також на обмеженнях, які могли завадити їй реалізувати цю стратегію.

Згідно з документами Geedge, у перші місяці 2024 року дослідники компанії працювали над розробкою поведінкових профілів людей на основі даних телекомунікацій, соціальних мереж і даних про місцеперебування. Моделі штучного інтелекту використовувалися для класифікації людей та “виявлення шкідливої інформації”, що часто є евфемізмом, який використовує Комуністична партія Китаю для ідентифікації політичних дисидентів або матеріалів, які уряд хоче придушити.

На одному із засідань 5 лютого 2024 року дослідники обговорювали, як створювати профілі людей для “виявлення їхніх намірів” та “шкідливої інформації”.

Імовірно, дослідники Geedge розробляли інструменти для використання штучного інтелекту з метою прогнозування, хто може стати критиком китайського уряду, на основі закономірностей у даних, зібраних технологіями спостереження.

“Дослідницька команда Geedge займалася не лише фіксацією моделей поведінки. Вони намагалися передбачити, що громадяни можуть зробити далі. Ці запаси даних є сировиною для створення профілів, які визначають, хто ви є і що будете робити далі”, — зазначають дослідники Університету Вандербільта.

Geedge не відповіла на запит NYT про коментар.

Згідно з дослідженням Університету Вандербільта, команда китайської компанії працювала над пов’язуванням фізичних переміщень з іншою онлайн-активністю, зокрема з тим, які фільми люди дивилися та які книги читали.

Дослідження Geedge певною мірою були схожі на роботу іншої китайської компанії, пов’язаної з урядом, — GoLaxy. Минулого року повідомлялося, що GoLaxy працювала над програмним забезпеченням на базі штучного інтелекту, яке б поширювало цільову пропаганду.

Китай роками розробляє технології спостереження і прогнозування. Але, як показують документи Geedge, моделі штучного інтелекту прискорили розробку таких інструментів. 

Хоча документи не охоплюють останні місяці, немає доказів того, що Geedge завершила роботу над проєктом або вже розгорнула технологію прогнозування, за словами американських чиновників.

Але посадовці визнали, що китайські компанії працюють над такою технологією, щоб вдосконалити систему стеження. А китайські бюро громадської безпеки поспішають використовувати DeepSeek, провідну в країні модель штучного інтелекту, для розробки інших технологій поліцейського контролю та прогнозування. 

Geedge та інші китайські компанії, що займаються технологіями стеження, ймовірно, мають достатню обчислювальну потужність для своїх інструментів поточного покоління. Однак інструменти прогнозування, особливо якщо компанія зрештою почне використовувати перехоплені телефонні розмови або відео з камер спостереження, можуть зіткнутися з обмеженнями обчислювальної потужності.

“Китайські служби безпеки мають справу з надмірним обсягом даних. Вони отримують занадто багато інформації одночасно. Справжня цінність штучного інтелекту полягає в тому, що він може сортувати дані та виявляти загрози. Але їхня здатність масштабувати це залежить від доступу до обчислювальних потужностей. Саме це робить експортний контроль таким важливим”, — зазначає старший науковий співробітник Інституту глобальних конфліктів та співпраці Каліфорнійського університету Джиммі Гудріч.

Чому ШІ — це більше не про технології, а про політичний вплив і контроль над майбутнім, у статті “Поки Україна розробляє стратегію ШІ, світ уже ділить вплив на нього” розповідав Олексій Костенко.

Про те, хто контролюватиме штучний інтелект, цифрові платформи й технології, від яких у XXI столітті залежатимуть економіка, війна і політика, — у статті“США і Китай ділять майбутнє ШІ: що стоїть за зустріччю Трампа та Сі” Олексія Костенко.