Українка виявила у китайських соцмережах свій клон, генерований ШІ, який продає російські товари і розповідає про любов до Китаю

20-річна українка Ольга Лоєк, яка навчається в Університеті Пенсильванії і веде YouTube-канал, де розповідає про ментальне здоров’я та ділиться своїми поглядами на життя, виявила у китайських соціальних мережах свій клон, генерований штучним інтелектом.

Там вона представлена росіянкою на ім’я Наташа (бо Анна, або Грейс, залежно від платформи соціальних мереж), розмовляє китайською, розповідає про свою любов до Піднебесної і бажання вийти заміж за китайця. Про це пише «Голос Америки».

Як з’ясувалось, на відеосайтах було розміщено кілька десятків відео, на яких аватар Ольги Лоєк розмовляє китайською. Більшість із цих облікових записів запрошують глядачів відвідати онлайн-магазини, щоб купити, як вони кажуть, справжні російські товари.

Douyin (китайська версія TikTok) позначила деякі з цих відео як потенційно згенеровані ШІ. Але з коментарів видно, що багато хто вірить, буцімто дивиться на справжню жінку. «Російська красуне, китайці вітають вас», — написав одинин з користувачів.

У деяких роликах аватари українки розповідають про те, як вони цінують тісні зв’язки Росії та Китаю. В інших роликах вихваляють китайську історію та культуру або розповідають про те, як сильно росіянки хочуть вийти заміж за китайця. «Якщо ти одружишся з російськими жінками, ми будемо прати білизну, готувати, мити посуд кожен день, — каже аватарка Лоєк. — Ми також народимо вам дітей, скільки захочете».

Сама Ольга Лоєк заявила кореспонденту «Голосу Америки», що ніколи не скаже подібних речей, і припустила: «Це, ймовірно, використовується для того, щоб люди, можливо, люди в Китаї, відчували, що іноземці вважають їхню країну кращою».

На Bilibili, найбільшому відеосайті Китаю, деякі відео зі штучним інтелектом, в яких використовується обличчя Лоєк, позначено логотипом HeyGen, що вказує на те, що відео було створено на вебсайті компанії. В одному відео з Bilibili демонстратор навіть показує, як зробити коротке відео на HeyGen із кліпом, на якому розмовляє Лоєк, пише видання.

HeyGen — це компанія штучного інтелекту зі штаб-квартирою в Лос-Анджелесі, яка працює в Китаї з 2020 року. Вона спеціалізується на реалістичних цифрових аватарах, генерації голосу та перекладі відео. Технологія, розроблена HeyGen, була використана у відео штучного інтелекту, у яких Дональд Трамп і Тейлор Свіфт розмовляють ідеальною китайською мовою. Ці відео стали вірусними в китайських соціальних мережах у жовтні 2023 року.

За даними Forbes, зараз компанія оцінюється в 75 мільйонів доларів.

У політиці модерації HeyGen зазначено, що користувачі не можуть створювати аватари, які «зображують реальних людей, включаючи знаменитостей або громадських діячів, без явної згоди». Навчальне відео компанії зі створення аватарів показує, що користувачі повинні надіслати відео людей, які дають згоду на використання їх зображення.

Лоєк сказала, що після того, як вона та її підписники на YouTube надіслали скарги китайським компаніям соціальних мереж, близько десятка облікових записів, які імітували її, було видалено.

«Голос Америки» звернувся до материнської компанії HeyGen і Douyin, ByteDance, за коментарями, але не отримав відповіді. 

«На початку 2023 року уряд Китаю запровадив положення щодо регулювання дипфейків та інших “сервісів глибокого синтезу”, — пише видання. — Закон забороняє створювати дипфейки без згоди людей, чиє зображення чи інша інформація використовуються. У лютому 2023 року дослідницька компанія Graphika виявила кампанію в соціальних мережах, яка просувала інтереси Пекіна з використанням реалістичних людей, створених комп’ютером, у відео. У вересні 2023 року Державний департамент США попередив у звіті: “Доступ до глобальних даних у поєднанні з останніми розробками в технології штучного інтелекту дозволить КНР хірургічним шляхом націлюватися на іноземну аудиторію і таким чином, можливо, впливати на економічні рішення та рішення щодо безпеки на свою користь”».

Що стосується Лоєк, то вона не планує залишати YouTube або припиняти публікації. «Нам потрібна певна нормативна база, щоб розуміти та запобігти подібним речам», — говорить вона.

Раніше повідомлялось про те, що компанія Meta створить команду для боротьби з дезінформацією та зловживанням генеративним штучним інтелектом у межах підготовки до виборів до Європарламенту, які відбуватимуться на початку червня цього року.

• Читайте також: Дональда Трампа жорстко розкритикував «воскреслий» батько, змодельований за допомогою ШІ

Фото: «Голос Америки»