Завдяки алгоритмам штучного інтелекту російські боти тепер пишуть українською

Винайдення та розвиток технології штучного інтелекту стали перевіркою на міцність інформаційного простору, а відтак — загалом середовища існування людства. Що більше розвивається ця технологія, то виникає більша кількість із цим пов’язаних ризиків.

Збройні конфлікти та дедалі ширші можливості для інформаційних маніпуляцій за допомогою штучного інтелекту — ось два найбільших ризики найближчих двох років, які назвали у звіті Global Risks Report 2024, опублікованому в межах саміту Всесвітнього економічного форуму в Давосі у січні цього року.

Чого ми хочемо досягти за допомогою ШІ? Чи варто контролювати масове поширення цієї технології та, якщо так, то чи маємо ми достатньо важелів контролю? Як новітні технології допомагають Росії генерувати дезінформаційні кампанії? Про це і не тільки йшлося під час дискусії «Дезінформація: створення та виявлення за допомогою ШІ», що відбулася в межах програми «Архів війни» 21-го Міжнародного фестивалю документального кіно про права людини Docudays UA.

Про іншу дискусію в рамках фестивалю, присвячену мові ненависті, читайте тут, а про сам фестиваль — тут.

Учасницями події стали юристка зі штучного інтелекту Центру демократії та верховенства права, членкиня комітету з розвитку штучного інтелекту при Міністерстві цифрової трансформації України Ольга Петрів, кандидатка соціологічних наук, керівниця проєкту дослідження дезінформації в Texty.org.ua Юлія Дукач та Анна Булах, голова з етики, штучного інтелекту та партнерств у Respeecher і членкиня комітету з ШІ при Міністерстві цифрової трансформації України. Модерував дискусію журналіст, інвестиційний аналітик Horizon Capital Андрій Бродецький.

За словами дослідниці Юлії Дукач, Росія у війні проти України використовує всі можливі інструменти та канали впливу — й це приносить їй успіх. Серед цих інструментів — і ті можливості, які сьогодні дає робота з алгоритмами штучного інтелекту.

«Протягом останніх двох років риторика російських дезінформаційних кампаній радикалізувалася, посилилася геноцидна риторика. Те, що раніше друкували якісь маргінальні джерела на кшталт “Украина.ру”, почали публікувати загальноросійські медіа. При цьому мало що змінилось у змісті цих кампаній, на відміну від змін методів і механізмів поширення дезінформації. З 2022 року ми бачимо масштабування потоку дезінформації. Через це станом на сьогодні вже неефективно шукати ботів шляхом пошуку ідентичних коментарів. Завдяки алгоритмам ШІ переписати один і той самий коментар різними словами стало легко, дешево, швидко й не потребує залучення людини. Іншими словами, можна говорити про підвищення якості навіть примітивних атак», — розповіла Дукач.

Анна Булах, голова з етики, ШІ та партнерств у Respeecher, членкиня комітету з ШІ при Міністерстві цифрової трансформації України (ліворуч) і керівниця проєкту дослідження дезінформації в Texty.org.ua Юлія Дукач

Юлія Дукач також розповіла, що з 2023 року з боку росіян почастішали інфокампанії українською мовою, причому «їхні боти пишуть доволі непоганою українською». За словами дослідниці, протягом найближчого року росіяни вдосконалюватимуть свої навички у відеогенерації за допомогою ШІ, щоб надалі не ганьбитися з недолугими дипфейками, помітними неозброєним оком.

Як прокоментував Андрій Бродецький, поки на одному краю світу розробляють чергову дезінформаційну кампанію, залучаючи до цього можливості штучного інтелекту, на іншому континенті, у США, де ця технологія була винайдена, компанії-розробники ведуть дискусію про те, чи потрібна на ринку технологій ШІ регуляція з боку держави та, якщо так, яка саме.

Великі гравці закликають владу запровадити принципи регуляції, однак, на думку менших, не таких впливових гравців, державна регуляція заморозить становище на ринку, в результаті чого переваги отримають насамперед компанії-гіганти. Частина тих, хто чинить опір регуляції з боку держави та закликає відкрити доступ до всіх наявних інструментів ШІ, аргументує свою позицію тим, що, мовляв, якщо це не зробить Захід, це зробить Китай чи Росія, перехопивши ініціативу.

 Журналіст, інвестиційний аналітик Horizon Capital Андрій Бродецький

Тим часом цієї весни у ЄС ухвалили AI Act, який регулює створення та використання продуктів на основі ШІ на території країн-членів Євросоюзу. Як нагадала аудиторії Анна Булах, перший драфт цього документу з’явився ще у 2021 році. Цьогорічній появі Акту передувала не лише суспільна дискусія, а й зусилля самих компаній-розробників, спрямовані на пошук того, як перешкоджати ймовірному недобросовісному використанню інструментів ШІ.

 Голова з етики, штучного інтелекту та партнерств у Respeecher, членкиня комітету з ШІ при Міністерстві цифрової трансформації України Анна Булах

«Є компанії, які закривають повний доступ до технологій та інструментів, які розробили. Вони відмовляються від швидкого бізнес-зростання, але натомість зберігають контроль над тим, хто і з якою метою може використовувати їхні розробки. А є компанії, які роблять ставку на швидкий розвиток і тому залишають для користувачів відкритим доступ до своїх розробок, пов’язаних із ШІ, але тут часто виникає питання щодо етичності їхніх методів ведення бізнесу», — сказала Анна Булах.

Юристка зі штучного інтелекту Центру демократії та верховенства права Ольга Петрів додала, що ухвалений AI Act базується на ідеї сприяння максимальному захисту прав людини. Окрім AI Act, який установлює загальні принципи регулювання роботи компаній, що розробляють системи ШІ, торік улітку набув чинності Digital Services Act — окремий документ, який регулює роботу великих компаній на кшталт Meta, YouTube тощо, котрі надають доступ до розробок у галузі штучного інтелекту.

 Юристка зі штучного інтелекту Центру демократії та верховенства права, членкиня комітету з розвитку штучного інтелекту при Міністерстві цифрової трансформації України Ольга Петрів

«Зокрема, для користувачів передбачена можливість надіслати скаргу, якщо, наприклад, вони були введені в оману. І я вважаю, що потрібно бути проактивними на платформах і надсилати скарги, коли є для цього підстави, тому що в результаті це допоможе створити на ринку здорову атмосферу і спонукати всіх гравців дотримуватися встановлених правил», — сказала Ольга Петрів.

Проблема реакції з боку адміністрацій YouTube, Facebook, X та інших платформ на скарги від українців теж була у фокусі уваги учасників дискусії. Юлія Дукач розповіла про результати торішнього дослідження, яке вона проводила разом зі своїми колегами з Texty.org.ua. На прохання дослідників 200 українців і 100 поляків установили спеціальний додаток, який збирав дані про всі рекомендації, які надає YouTube під час перегляду відео через Google Chrome.

«Дослідження тривало два місяці, в результаті чого ми отримали інформацію про понад 2 млн рекомендацій, які дала платформа юзерам, що мали цей додаток. Нам важливо було знайти такі випадки, коли модерація не спрацьовувала, і ми знайшли їх дуже багато. Станом на сьогодні можна говорити про те, що поки YouTube дуже погано і повільно модерує контент, особливо якщо він не англійською. І це у випадку української можна спостерігати не лише на YouTube», — розповіла дослідниця.

Разом із цим Юлія Дукач навела й більш оптимістичний приклад реакції платформ на скарги українців. Наприкінці травня цього року TikTok обмежив можливість потрапляння до рекомендацій повідомлень від медіа, контрольованих державами. А трохи раніше, у квітні цього року, в межах співпраці з українським урядом TikTok заблокував доступ до багатьох російських медіа на території України.

«За результатами нашого дослідження, після такого рішення TikTok кількість переглядів повідомлень російських медіа відчутно зменшилася. Це приклад того, як маленька зміна політик великих онлайн-платформ дуже сильно впливає на меседжі, які Росія поширює через них на аудиторію за межами Росії», — пояснила Дукач.

За словами всіх учасників дискусії, розв’язання проблем, які почали виникати паралельно з розвитком і поширенням технології ШІ, передбачає поєднання регуляції з боку влади та саморегуляцію ринку. У цьому свою роль мають і користувачі, і дослідники, які пояснюють, як певна технологія може бути використана на шкоду, і розробники, котрі — в ідеалі — відчувають відповідальність за те, що пропонують на ринку.

Фото надала команда фестивалю Docudays UA. Автор фото — Стас Карташов