«Штучний інтелект масштабує роботу пропагандистів і значно здешевлює її», — Юлія Дукач у подкасті «Медіуми»

Редакція «Текстів» дослідила, як ШІ допомагає пропагандистам масштабувати роботу в мережі TikTok. Журналісти виявили TikTok-ферму з 300 каналів, які після автоматизованої обробки видавали чужий YouTube-контент за власний і водночас поширювали російську пропаганду. 

Які інструменти потрібні для виявлення таких ферм, чого слід вимагати від TikTok щодо модерації контенту, аби істотно зменшити можливості для роботи пропагандистів на платформі — про це ведучі подкасту «Медіуми» Наталя Соколенко та Вадим Міський поговорили з Юлією Дукач, керівницею відділу досліджень дезінформації у виданні Texty.org.ua. Випуск виходить у рамках спецсезону «Відсіч дезінформації».

Підписатися на подкаст «Медіуми» можна на Apple Podcasts, Google Podcasts, Spotify, SoundCloud, MEGOGO Audio, NV Подкасти, YouTube Music, YouTube та інших подкастингових платформах.

00:00 «Мережа «TikTok» — це сіра зона. Ще нещодавно не співпрацювала з українським урядом, але цієї весни почалась активізація співпраці»;

05:30 «Штучний інтелект — це не негативна річ. Це не зброя проти демократії»;

08:08 «Коли США почали погрожувати заборонити TikTok, платформа почала співпрацювати з Україною»;

10:10 «ТіkТоk зробив перший крок в напрямку покращення політик модерації на своїй платформі»;

16:14 «Хтось взяв найпопулярніші канали в YouTube, у яких немає TikTok і переніс їх в туди, щоб заробляти чи поширювати дезінформацію»;

17:22 «Це маленьке розслідування розставило дуже багато червоних прапорців стосовно недоліків алгоритмів модерації в TikTok».

«Мережа «TikTok» — це сіра зона. Ще нещодавно не співпрацювала з українським урядом, але цієї весни почалась активізація співпраці»

Вадим Міський: Команда «Текстів» нещодавно розповіла про виявлену «ферму» із 300 каналів у TikTok, які після автоматизованої обробки видавали відео з YouTube за власний контент. І там є російська пропаганда. Якщо ми поглянемо на TikTok в цілому, то як часто там трапляється російська пропаганда? 

Юлія Дукач: Російська пропаганда трапляється абсолютно на всіх соціальних платформах і в соціальних мережах. Принцип роботи машини з виробництва російської дезінформації працює так, що пропагандисти пробують всі можливі шляхи і всіма можливими шляхами поширюють свої наративи, тези, фейки, маніпуляції тощо. Залежно від того, наскільки добре налаштовані алгоритми модерації на тій або іншій платформі, складається ситуація, як в телеграмі — заповнення платформи дезінформацією або як у випадку з Meta — маленьке представлення з окремими випадками. Мережа «TikTok» — це сіра зона. Ще нещодавно не співпрацювала з українським урядом, але цієї весни почалась активізація співпраці. У перші два роки після початку повномасштабного вторгнення російська пропаганда зайшла на ТіkТоk дуже активно. Якщо ви цікавитесь соціально-політичним контентом, і платформа пропонує схожі відео на цю тему, то ви легко можете отримати російські медіа, ви можете отримати російських політиків або псевдоукраїнські облікові записи, які насправді створені росіянами для поширення антиукраїнських тез.

Вадим Міський: Яку роль тут відіграє штучний інтелект? Чи може він істотно спростити роботу пропагандистів?

Юлія Дукач: Штучний інтелект масштабує їхню роботу і робить її набагато дешевшою, ніж було раніше. Наприклад, раніше вам треба було посадити декілька людей, які управляють десятками акаунтів так званих ботів, тролів. Тобто за ними стояли люди, які, наприклад, писали якесь повідомлення і потім копіпастом його розносили від імені різних акаунтів. Раніше було дуже легко знаходити мережі ботів, тому що ми беремо це повідомлення і шукаємо ідентичні. Але станом на сьогодні, той же ChatGPT і подібні великі мовні моделі дали можливість одній людині написати одну тезу і сказати: «Перефразуй і дай мені 100 варіантів цієї тези для коментарів в соцмережі». І виходить, що без алгоритмів досліджувати таку мережу стає набагато важче, бо ми шукаємо не ідентичні тексти, а шукаємо схожі меседжі.

«Штучний інтелект — це не негативна річ. Це не зброя проти демократії»

Наталка Соколенко: А як? Це теж є відповідне якесь програмне забезпечення? 

Юлія Дукач: На щастя, ми майже 5 років досліджуємо пропаганду за допомогою машинних алгоритмів. Ми щотижня моніторимо десятки тисяч російських новин, заганяємо їх всі в алгоритми. Алгоритм видає, наприклад, 300 тем про які писали пропагандисти. Є так званий алгоритм моделювання тем, який дозволяє автоматизовано поєднувати однакові меседжі, написані різними словами. Штучний інтелект — це не негативна річ. Це не зброя проти демократії, а інструмент, яким можуть користуватись обидві сторони.

Наталка Соколенко: Чи є прості в застосуванні інструменти для тих, хто користується цими соціальними мережами, щоби самостійно ставити собі фільтр над своєю сторінкою, наприклад, у фейсбуці? Щоб фейсбук блокував повідомлення з пропагандистськими російськими наративами чи ролики у TikTok, які несуть оцю заразу?

Юлія Дукач: З ТіkТоk насправді доволі важко. Якщо ми говоримо про те, щоб встановити щось, що допомогло би фільтрувати контент. Якщо ми дивимося YouTube з ноутбука, то ми можемо поставити на Google Chrome розширення, яке буде фільтрувати і не даватиме, не рекомендуватиме нам відео російською мовою, але проблема в тому, що воно прекрасно працює на ноутбуці, як розширення на Google Chrome. Усе, що ми споживаємо з телефону — тут орієнтуємось тільки на етичні принципи і політики тієї платформи, якою ми користуємось. Якщо фейсбук доволі непогано фільтрує агресивну російську дезінформацію, там не «віщають» Симоньян чи «РИА Новости», то TikTok лише нещодавно заблокував «РИА Новости» для українців. В грудні минулого року ми досліджували, який контент нам видає TikTok за нейтральними хештегами. Ми підбирали хештеги, які не асоціюються з війною, і ми бачили, що відео від «РИА Новости» активно потрапляли до результатів пошуку в TikTok. Уже, на щастя, такого немає. І без VPN українці вже подивитись не можуть «РИА Новости». І отримати їх в списку рекомендацій теж.

«Коли США почали погрожувати заборонити TikTok, платформа почала співпрацювати з Україною»

Вадим Міський: Сполучені Штати вирішили вдатися до радикального кроку — створили законодавчу рамку для потенційної заборони TikTok. Чи сприяє це більш охочому реагуванню власника платформи, китайської компанії ByteDance, на запити урядів?

Юлія Дукач: Мені здається, що в той момент, коли США почали погрожувати заборонити TikTok, платформа почала співпрацювати з Україною. Це лише моя здогадка. Я не можу сказати про причинно-наслідкові зв'язки, але зараз TikTok дуже активізували роботу над політиками. Є прекрасна новина: в кінці травня TikTok опублікував нову політику на своїй платформі, він маркує канали, які контрольовані державами. «ТАСС», «РИА Новости» отримали плашку: медіа, контрольовані Росією. Тобто будь-хто, хто відкриває цей аккаунт може побачити, що це не є незалежне медіа, а що це медіа контролюється російським урядом.

Вадим Міський: Я думаю, що з «ТАСС» і «РИА Новости» інтрига якраз невелика. А що робити з купою начебто «окремих незалежних блогерів», які відкриваєш, а у них той же самий «ТАСС» тільки з обличчям юного блогера?

Юлія Дукач: З незалежними блогерами складніше. Але перший крок було зроблено: майже 50 акаунтів в TikTok, які були промарковані як контрольовані Росією медіа, заблокували для видачі в рекомендаціях за межами РФ.

«ТіkТоk зробив перший крок в напрямку покращення політик модерації на своїй платформі»

Наталка Соколенко: Тобто на весь світ «РИА Новости» втратило можливість напряму говорити від імені російської держави?

Юлія Дукач: «РИА Новости» — це дрібниця. А ось Russia Today французькою, іспанською або RT в Японії, або Sputnik, у яких аудиторія була за межами Росії — відтепер можна подивитись тільки за умови, якщо користувач сам на них підпишеться. Якщо ви дивитесь те, що вам пропонує ТіkТоk, так звана стрічка «For You», то там RT не має з'являтися тепер. Ми зараз досліджуємо кількість переглядів на цих каналах, наскільки вони впали чи не впали. Якщо не впали — це означає, що заборона працює погано, їх продовжують дивитись за межами Росії. Якщо впали, то це буде маленька історія успіху. Я сподіваюся, що найближчі тижні у нас вийде аналітика, де ми покажемо, як маленька зміна політик ТіkТоk може вплинути на зменшення аудиторії російської пропаганди, яка працює відкрито. На жаль, на блогерів, які маскуються під незалежних, але насправді поширюють російські наративи, це не вплине. Але сподіваємося, що ТіkТоk зробив перший крок в напрямку покращення політик модерації на своїй платформі.

Вадим Міський: Це блискуча новина. І хочеться, звісно, щоб на цьому не завершувалися дії на зустріч адекватному модеруванню. Що ще може зробити ТіkТоk для того, аби обмежити вплив російської пропаганди, поза переліком контролоьованих державою медіа?

Наталка Соколенко: Або навпаки: до чого цивілізований світ, уряди демократичних країн можуть спонукати ТіkТоk у цьому керунку?

Юлія Дукач: Ми спостерігаємо за політиками, які розробляються в Європейському Союзі, тому що вони попереду всієї планети, розробляють способи зробити великі платформи більш прозорими, підзвітними. Щоб вони несли відповідальність за те, що, наприклад, їхні алгоритми погано модерують контент. У нас маленький успіх — це Digital Service Act. Ми бачимо, що завдяки політикам ЄС, у ТіkТоk є бібліотека реклами. У ній ми бачимо, що на ТіkТоk нема тих, хто паразитує на темі війни в Україні, можемо шукати за ключовими словами, обрати країну і подивитись всю рекламу, яку TikTok опублікував, охоплення цієї реклами за цими ключовими словами в цій країні за обраний період. Це маленький приклад того, що TikTok ніколи би не зробив подібний інструмент, якби цього не вимагав Європейський Союз. Наприклад, за межами Європейського Союзу бібліотека реклами TikTok не працює, навіть для тих країн, де ця реклама публікується.

У TikTok основна задача — не демократію поширювати чи навіть китайський вплив, а все-таки заробляти гроші. Це якраз той приклад, що нам варто розробляти політики, щоб зробити ці платформи більш прозорими. Зараз TikTok йде в напрямку маркування штучно згенерованого контенту. Тут я повертаюсь до теми нашого розслідування — станом на зараз це маркування все ще відсутнє. Насправді ще є багато питань як саме це маркуватимуть, адже бачимо, що різні інструменти, створені на базі ШІ, вже використовуються для масштабізації російських наративів. Ми знайшли ферму з трьохсот каналів, які крадуть YouTube-контент російськомовних блогерів, нарізають їх на шматки й перетворюють їх на вертикальний формат. Ці канали мають однаковий опис каналу: «Підпишіться на мене, щоб у мене було більше мотивації робити ці відео». Вірогідно, це одна людина за допомогою алгоритмів просто качає контент з YouTube, перетворює, нарізає і заливає в TikTok без допомоги десятків людей, бо стільки треба людей, щоб реально вести триста каналів.

«Хтось взяв найпопулярніші канали в YouTube, у яких немає TikTok і переніс їх в туди, щоб заробляти чи поширювати дезінформацію»

Вадим Міський: І весь цей контент — дезінформація?

Юлія Дукач: Ні, десь до двадцяти каналів насправді були конспірологічно-дезінформаційними. Ми вийшли на цю мережу, бо побачили, що серед цієї ферми була маріупольська блогерка, яка робить відео на кшталт «із подвалу Маріуполя в небо Москви», де описує свій досвід подорожей Росією, яка «велика Росія» прийшла — «порядок» в Маріуполі навела. Ми знайшли спочатку її, а потім побачили, що в такому ж стилі оформлені канали з рецептами або канал російського блогера, який ходить на сміттєзвалище і вишукує там скарби. Об'єктивно тут не те, що інфовійська сиділи і масштабували ці дезінформаційні наративи, скоріше хтось просто взяв найпопулярніші канали в YouTube, у яких немає TikTok і переніс їх в туди, щоб заробляти чи поширювати дезінформацію.

«Це маленьке розслідування розставило дуже багато червоних прапорців стосовно недоліків алгоритмів модерації в TikTok»

Наталка Соколенко: Чи потренуватися, наприклад?

Юлія Дукач: Або як ми сміялись, може, це хтось робив свою дипломну роботу, назбирав 90 тисяч лайків для маріупольської блогерки ще й в TikTok. На щастя, не всі 300 каналів поширюють дезінформацію, але в той же час всі ці 300 каналів, які там ведуться умовно однією людиною назбирали більше 10 мільйонів лайків і ще більше переглядів. І вони все одно несли, масштабували, зокрема, конспірологію, дезінформацію або російський імперіалізм. Ми знайшли конкретно цей приклад, не чистий прояв роботи інфовійськ Росії, але який дуже гарно підсвічує, що це легко зробити, платформа проти цього поки що нічого не робить. Поки власник YouTube-каналу не поскаржиться — TikTok не буде видаляти це. Якби мені одне з тих відео вилізло в рекомендацію, я би ніяк не змогла відрізнити, що це за допомогою ШІ згенеровано, модифіковано або що це викрадений контент. Це маленьке розслідування розставило дуже багато червоних прапорців стосовно недоліків алгоритмів модерації в TikTok.

Наталка Соколенко: Як можна використати результати розслідування Texty.org.ua? Наприклад, український уряд міг би якось скористатися вашими висновками і вийти на перемовини з платформою TikTok? Чи це необхідно робити, особливо зараз, в умовах війни? Як сказав наш співрозмовник в одному з попередніх випусків подкасту «Медіуми» Іван Киричевський, що Росія веде проти нас тотальну війну і інформаційну війну. Інформаційні інструменти розглядає так само потужними, як удар там КАБами чи ракетами.

Юлія Дукач: Мені здається, що наш маленький приклад цього розслідування підсвічує проблему неавтентичної поведінки в TikTok. Це цікаво для колег-журналістів, бо ми ділилися тим, як можна досліджувати цю неавтентичну поведінку. Нам, наприклад, допомагав просунений Google-пошук, який допомагає знаходити відповідний контент саме на платформі TikTok за цитатами, через описи каналів ми фактично й вийшли на цей список. Мені здається, важливо актуалізувати цю проблему для наших колег за кордоном, які доволі спокійні, бо у них немає прямого ворога, як у нас. Але вони живуть в середовищі, яке також має цілеспрямовані інформаційні впливи і кампанії. В даному випадку це було проти України, але ж ми розуміємо, що дуже багато кампаній йде і проти демократії, проти демократичних урядів, кандидатів на виборах, яких теж активно дискредитують такими методами.

подкаст «Медіуми» запустив спецсезон «Відсіч дезінформації». Поряд зі звичними випусками ведучі подкасту Наталя Соколенко та Вадим Міський запрошують експерток та експертів із питань російської пропаганди та стратегічних комунікацій. У попередніх випусках спецсезону говорили з Лесею Бідочко та Юлією Пархоменко про дослідження «Медіаландшафт на тимчасово окупованих територіях України», Артемом Захарченком про те, що таке національний наратив і чому він має лишитися тільки один, Альоною Романюк про методи роботи російських пропагандистів в українському інформпросторі, Галиною Петренко про Індекс медіаграмотності українців, рівень вміння свідомо сприймати й критично тлумачити інформацію, Іваном Киричевським про те, чому не слід довіряти жодному російському медіа, зокрема, «ліберальним», Наталією Іщенко про базовий принцип спростування фейків: не лише спростування, але й поширення правди, Любов'ю Цибульською про те, як говорить українська держава із власним народом та світом, Ігорем Соловʼєм про роботу Центру стратегічних комунікацій та інформаційної безпеки під час війни та перспективи «інформаційного Рамштайну» для протидії пропаганді.

Також рекомендуємо: Подкаст «Детектор медіа говорить», у якому ми начитуємо найцікавіші статті та рецензії, що виходять на сторінках нашої групи онлайн-видань. Якщо у вас не вистачає часу на читання, ви можете просто слухати нашу аудіоверсію. Підписуйтеся на подкаст та отримуйте доступ до найцікавіших матеріалів «Детектора медіа» у зручному для вас форматі.

Колаж: «Детектор медіа»