Як TikTok перетворюється на ШІ-смітник. Дослідження однієї російськомовної піратської тікток-ферми

Ледь не щомісяця в інтернеті зʼявляється новий оригінальний спосіб “шалено збагатитись без жодних зусиль”. І схоже, що за лідерство в цьому напрямку з криптою та блокчейном починають змагатись інструкції як за допомогою ШІ стати супер успішним блогером.

Інструменти ШІ вже багато хто взяв на озброєння для вдосконалення своєї роботи. Регіональні редакції запускають своїх ведучих, МЗС створює віртуальну речницю (ми, до речі, вже писали чому це не ок). А сервіси з перекладу чи перевірки граматики взагалі стали частиною нашого життя та вже майже не асоціюються зі ШІ.

Та крім вдосконалення готового матеріалу, є інша ніша – генерування повністю штучного контенту. Який можна “без особливих зусиль” створити буквально за пару хвилин. В хід йде ціла екосистема ШІ-застосунків, які самі генерують відеоряд (або обробляють викрадений чужий), генерують текст та аудіодоріжку, все монтують та додають текст з описом і хештегами для публікації на платформі. Все – “за лічені секунди”. 

І поки соціальні платформи поступово перетворюються на ШІ-смітник, подібні інструменти дарують користувачеві надію, що одне зі згенерованих відео завіруситься та принесе гроші. Ну або просто допоможуть масштабувати тези російської пропаганди.

Як це працює – детальніше розповідаємо на прикладі однієї тікток ботоферми з 300 каналів, які за допомогою ШІ обробляли та публікували відео з російського та білоруського ютубу. 

Як виявити “ферму”?

Знайомтесь, це Анастасія Кожевнікова – уроженка Маріуполя, зараз – популярна російська ютуб-блогерка зі 190 тисячами підписників лише в ютуб. Яка є відомою поширювачкою російського наративу про “Росію-рятувальницю” та неймовірну відбудову Маріуполя.

У канала є також посилання на Rutube, телеграм та Яндекс.Дзен. Та якщо пошукати її контент на тіктоці, то легко вийти на профіль з більше ніж 300 відео. Які, втім, не надто адаптовані до платформи – зняті горизонтально з великими чорними полями згори та знизу. Фактично це ті самі ютуб відео, які просто були перезалиті на іншу платформу, хіба що порізані на менші фрагменти.

У профіля станом на початок травня опубліковано ~ 300 відео, більше 10К підписників та 70К лайків. 

Та на що одразу звертаєш увагу коли потрапляєш на її профіль – це відсутність будь-якої інформації про авторку. Хто вона та про що знімає відео? Де посилання на інші соціальні мережі? Лінк на суперпопулярний ютуб? Чи хоча б номери карток для щедрих донатерів? Нічого. Натомість – лише нейтральна фраза із закликом підписатись. Яка може бути у будь-якого каналу. І, як виявилось, дійсно є у багатьох каналів. 

За допомогою розширеного гугл пошуку ми змогли ідентифікувати ще 298 тікток каналів, які мають такий самий опис профілю. І, як виявилось, схоже у них не тільки це. Так почалось дослідження однієї російськомовної штучної тікток ферми.

Чому ми точно знаємо, що це “ферма”?

Те, що ці 299 каналів є частиною однієї мережі (або простіше ферми) – очевидно з багатьох причин.

Крім однакового опису (який не просто однаковий, але ідентичний, аж до крапки наприкінці речення), всі ці канали мають також ідентично оформлені відео. Це завжди відео з ютуб, чий оригінальний заголовок перемістився в опис відео на тікток. Верхнє чорне поле ще раз його дублює, а нижнє позначає номер частини (якщо оригінальне відео було порізане на менші шматки). Сам відеоряд доповнений автоматично згенерованими субтитрами (згенерованими бо містять велику кількість помилок та неправильних переносів тексту). 

Єдине, що відрізняє ці канали, – це тематика. Серед них можна знайти не тільки російську пропаганду та популярну імперську конспірологію. Але ще рецепти, ремонт автівок, поради слюсарям, відео формату “зроби сам”, дитячі крінжові мультики, та навіть блогера, який проводить екскурсії російськими кладовищами або шукача скарбів серед російського металобрухту. 

Єдине, що поєднує цих авторів в ютубі, – це відсутність власного тікток каналу, лише виявлені нами симулякри. До речі в Росії з березня 2022 року і до останнього часу завантажувати відео в тікток було заборонено, хоча попри це мережа там була одна з найпопулярніших.

Відсутність інформації про авторів на каналах виявленої ферми підтверджує припущення, що маємо справу з піратством. Яке станом на початок травня за півроку свого існування вже принесло власникам більше 10 млн лайків і ще більше переглядів.

Навіщо стільки зусиль?

Відкритим залишається питання монетизації. Або те, як ця ферма планує заробляти. 

В Росії (як, до речі, й в Україні), в тіктоці немає реклами, а разом із нею – і програм підтримки контентмейкерів. І якщо в тих же США (де вже активно просуваються в напрямку блокування китайської платформи), Німеччині чи Японії ТікТок запустив бета-версію з фінансової підтримки контентмейкерів, то для нашого простору ці можливості залишаються недоступними і навряд чи відкриються в найближчій перспективі. 

Натомість, є інша опція – на розкрученому за допомогою чужого контенту каналі завжди можна опублікувати щось своє за гроші від замовника.

З одного боку, алгоритми тікток допомагають завіруситись контенту навіть від щойно створеного профіля. І Росія цим активно користується запускаючи свої наративи в український або європейський інфопростір через сотні новостворених ботів. Останнє найбільше викриття російської тікток ботоферми налічувало більше 12 тисяч акаунтів, які в країнах ЄС поширювали фейки про корупцію в Міноборони. 

Та дезінформаційні кампанії зазнають поступових змін. Із удосконаленням алгоритмів виявлення “координованої неавтентичної поведінки” (себто ботів) великим соціальним платформам стає набагато легше протидіяти ботофермам. А відтак, починаючи з 2022 року кампанії з дезінформації набувають нової форми – вже не просто запускають ботів, які підсилюють проросійські наративи чи будь-яку іншу потрібну замовнику інформацію,  але створюють цілі фальшиві веб-сайти та намагаються залучити до поширення своїх тез місцевих блогерів, політиків чи лідерів думок. Себто ботоводам потрібно знаходити поширювачів, які не зможуть бути в один момент заблоковані соціальними платформами. Ну або хоча б створювати та розкручувати таких блогерів на краденому ютуб контенті. 

І навіть якщо ми уявимо, що конкретно ця ферма не мала на меті в подальшому поширювати російську пропаганду, вона все одно виявилась для неї корисною. Адже хай і порушуючи авторські права, збільшувала аудиторію не тільки для відео з рецептами торту “наполеон”, але й для відео про щасливе життя біженців з Маріуполя в Росії, про нелегку боротьбу Росії проти НАТО та глобалістів або про те, “ЧЕМ РУССКИЙ ЯЗЫК БЕСИТ АМЕРИКАШКУ?!!”.

І чим далі, тим такого неавтентичного контенту ставатиме більше, і його все частіше використовуватиме Росія в інформаційній війні. А оскільки російської дези і пропаганди в неті багато, то її частина відтворюватиметься такими ботофермами, які просто реплікують те, що має багато переглядів. 

Інструменти штучного інтелекту ставатимуть все більшим викликом для соціальних платформ та вкотре актуалізуватимуть маргінальну теорію “мертвого інтернету”, яка стверджує, що вже сьогодні в інтернеті немає справжніх людей. Цього разу – лише з новими результатами досліджень, що майже половина усього інтернет-трафіку минулого року надійшла від ботів.

Ми починаємо серію матеріалів про роль тікток в російських інформаційних кампаніях в Україні та на окупованих територіях. Щоб не пропустити – підписуйтесь на нашу розсилку.