Технологія розпізнавання облич могла потрапити в Росію: як це працює в Китаї і в чому небезпека

Технології штучного інтелекту всього за кілька років вже змінили світ. Нейромережі дозволяють створювати досконалі відео-, аудіо- та графічні фейки, які розповсюджують через соцмережі тоталітарні режими по всьому світу. Згенерованими картинками послуговуються й звичайні зловмисники.

Інший рівень – це технології, що допомагають урядам контролювати суспільство. Зокрема, мовиться про технологію розпізнавання облич. Один з її розробників – компанія Amazon, яку звинуватили у продажі технології Росії уже після повномасштабного вторгнення до України. Водночас партнер Росії, Китай, має власних розробників цієї технології, яку він тестує на народі уйгурів.

Чим небезпечна така технологія в руках Росії та інших диктатур – читайте в матеріалі 24 Каналу.

У чому звинувачують Amazon: продаж до Росії та власний мораторій

На початку червня у Financial Times написали, що ексспівробітник Amazon Чарльз Форрест звинуватив компанію у порушенні санкцій Великої Британії. Американський техногігант начебто продав Москві технологію розпізнавання обличчя Amazon Rekognition уже після повномасштабного вторгнення в Україну.

Ексспівробітник Amazon стверджує, що його несправедливо звільнили у 2023 році після того, як він звинуватив Amazon у протиправних діях у низці питань з листопада 2022 року по травень 2023 року. Звинувачення представили Лондонському трибуналу з питань зайнятості на слуханнях у червні.

Камери спостереження / Sacha T'Sas / Unsplash

Форрест заявив, що Amazon уклав угоду з російською компанією VisionLabs щодо надання доступу до її технології розпізнавання обличчя Rekognition. За матеріалами трибуналу, це було зроблено через підставну компанію у Нідерландах. Форрест також звинуватив Amazon у порушенні власного мораторію на передачу поліції технологій розпізнавання облич, запроваджених після вбивства Джорджа Флойда.

Amazon заперечує звинувачення.

"Ми вважаємо, що претензії необґрунтовані, і з нетерпінням чекаємо можливості продемонструвати це через судовий процес, – сказав прес-секретар Amazon. – Виходячи з наявних доказів і платіжних записів, Amazon Web Services не продавала послуги Amazon Rekognition VisionLabs".

Як стверджують в Amazon, Форреста звільнили за "грубу неправомірну поведінку" після того, як він відмовився працювати в години, передбачені контрактом, не відповідав на електронні листи та не відвідував зустрічі. Amazon також спростувала твердження, що надала поліції технологію розпізнавання облич, однак додала у судовій справі, що "самонакладений мораторій не є юридичним зобов’язанням".

Чи небезпечна ця технологія в руках Росії

Принципово передача цієї технології Росії нічим не загрожує, вважає Олександр Краковецький, фахівець зі штучного інтелекту, співзасновник компаній DevRain, DonorUA та Chatty.ai.

"Є багато інших технологій ідентифікації облич, включно з відкритим програмним кодом, які опубліковано на GitHub у відкритому доступі", – розповів Краковецький у коментарі 24 Каналу.

Є там, звісно, цікаві фічі типу "Face compare and search", які потенційно можуть використовуватись для ідентифікації фото людей, зібраних з соцмереж, зокрема, для ідентифікації загиблих солдатів. Але знову ж таки є багато легальних постачальників таких рішень і ще більше нелегальних. Ті ж китайці можуть дати значно кращі технології для розпізнавання, які вони використовують для контролю уйгурів,
– вважає експерт.

Як Китай контролює народ уйгурів з технологією розпізнавання облич

Китай широко використовує технологію розпізнавання обличчя, інтегровану в мережу камер по всій країні, для пошуку представників уйгурського народу виключно за їхнім зовнішнім виглядом.

За даними джерел The New York Times та поліцейськими базами даних Китаю, китайська влада налаштувала мережу стеження, включаючи відстеження ДНК людей та розпізнавання облич по всьому Китаю. Уйгурів відстежують не лише на їхній батьківщині, а й на сході країни, де зосереджені великі міста, зокрема у прибережній провінції Фуцзянь.

Представник уйгурського народу в Китаї / Wikimedia

Над розробкою програмного забезпечення для розпізнавання облич уйгурів працюють китайські стартапи. Вони замасковано описують свою роботу – так компанія CloudWalk зазначала, що її технологія може розпізнавати "чутливі групи людей".

Моніторять не лише етнічність, а й емоції

Систему камер, яка використовує штучний інтелект і розпізнавання облич, щоб виявити стан емоцій, випробували на уйгурах у Сіньцзяні.

У 2021 році BBC писала, що Китай встановив у поліцейських відділах у Сіньцзяні камери, що розпізнають емоції. Інженер-програміст, який працює над цією системою, на умовах анонімності розповів про це британському виданню. Компанія, в якій він працював, також не розголошувалася.

Китайський уряд використовує уйгурів як піддослідних для різноманітних експериментів так само, як щурів використовують у лабораторіях,
– сказав інженер BBC.

Камери виявлення емоцій встановлюють на відстані трьох метрів від людини. Інженер порівняв її з детектором брехні, але більш просунутим. Поліцейські також використовують крісла з фіксаторами зап'ясть для обмеження пересування уйгурів. За словами джерела BBC, система штучного інтелекту вміє виявляти й аналізувати навіть найменші зміни у виразі обличчя та порах шкіри. Програма створює кругову діаграму, де червоний сегмент представляє негативний або тривожний стан людини.

Діаграма емоцій / BBC

Факт отримання чи неотримання Росією технології Amazon вже не має принципового значення – Китай може продати або надати агресору навіть більш розвинені технології, вже протестовані на уйгурах. А Росія, своєю чергою, може використовувати їх для контролю власного населення або для геноциду на тимчасово окупованих територіях України.