Робот із ШІ у прямому ефірі: хто відповідатиме за його факапи – думки експертів

Видання про ЗМІ, журналістику та журналістів "Детектор медіа" відреагувало на звернення радіостанції "Люкс ФМ" до Верховної Ради. Медіахолдинг, нагадаємо, просив пояснити, як закон регулює використання робота-гуманоїда зі штучним інтелектом, який став ведучим в ефірі Люкс ФМ. І поки профільний комітет парламенту та Нацрада з питань телебачення і радіомовлення готують відповідь, видання підготувало своє дослідження проблеми.

24 Канал з дозволу колег публікує повну версію матеріалу "Детектор медіа". Цікаво, що ілюстрацію до матеріалу під назвою "Робот із ШІ у прямому ефірі: хто відповідатиме за його факапи" для видання зробив також ШІ – ChatGPT, що є наочним доказом, що нові технології все активніше допомагають в роботі ЗМІ, ба більше – стали їх невіддільною частиною, тому питання законодавчої регуляції роботи ШІ давно назріло.

Роботи у "сірій зоні"

Штучний інтелект інтегрується у роботу українських медіа. Віртуальні аватари, синтезовані голоси ведучих, роботи в ефірі — ця вже реальність. Проте такі інтеграції не врегульовані в українському законодавстві.

З цією проблемою зіткнувся і холдинг "Люкс", який навесні придбав для створення контенту робота-гуманоїда китайської компанії Unitree Robotics. У групі хочуть зробити його "головним диджитал-інфлюенсером України" і планують долучити до створення контенту для соцмереж (ютуб і тікток) і рекламних інтеграцій. Він працює на основі штучного інтелекту, жартує і схильний до імпровізації.

Робот став співробітником ЗМІ / Джерело – інстаграм Люкс ФМ

Це спонукало "Люкс" задуматися про ті ризики, які може мати ефір із роботом. Адже попри те, що під час навчання йому дають вказівки про табу, чутливі теми тощо, повністю проконтролювати його поведінку неможливо. Тому генеральний директор компанії Роман Андрейко звернувся до парламентського комітету з питань гуманітарної та інформаційної політики й Національної ради з питань телебачення та радіомовлення за роз’ясненнями стосовно застосування законодавства про медіа у зв'язку з використанням штучного інтелекту та робота як ведучого. Зокрема, це питання, які стосуються авторських прав, звільнення від відповідальності у разі порушень в прямому ефірі, мовних квот.

"Детектор медіа" вирішив поспілкуватися з юристами про особливості роботи в ефірі роботів чи синтезованих ведучих з огляду на неврегульовані питання у законодавстві.

Статус ведучого й авторське право

Найперше питання, яке виникло у "Люксу" при адаптації робота до ефіру, — чи можна вважати його ведучим у розумінні закону "Про медіа". І далі постають питання про юридичні підстави діяльності в ефірі, правовий статус та авторські права на вироблений контент.

Ігор Розкладай, заступник директора ЦЕДЕМ, член Незалежної медійної ради, каже, що вважати ведучим робота не можна, бо згідно з законом ведучий має бути фізичною особою.

Колишня керівниця юридичного відділу Нацради та радниця Smartsolutions Анна Літвіщенко звертає увагу, що робота можна вважати ведучим функціонально через ті функції, які він виконує: керування процесом реалізації творчого задуму, поєднання елементів програми, супроводження програми поясненнями, оголошення правил або результатів.

Якщо робот усе це робить, фактично він виконує функцію ведучого. Тут можна провести аналогію з закадровим голосом. Для глядача чи слухача взагалі може бути невідомо, хто читає текст за кадром — жива людина чи синтезований голос. Для сприйняття програми це нічого не змінює: цей голос виконує функцію ведучого, — каже Анна. — Але формально в Законі є прогалина. Чинне визначення ведучого очевидно писалося під людину. Закон говорить про “особу”, а далі прямо передбачає, що ведучий працює на підставі трудових, цивільно-правових чи інших відносин із суб’єктом у сфері медіа або виробником програми. ШІ чи робот не є суб’єктом права і стороною таких правовідносин бути не може. Тому я б розділяла два поняття: робот може виконувати функції ведучого, але назвати його “ведучим” у буквальному юридичному значенні чинного визначення можна лише шляхом розширеного тлумачення норми.

На думку Анни, щоб урегулювати це питання, були б доцільними зміни до профільного медійного закону. Але вони мають не прирівнювати ШІ до "особи", а передбачати, що функції ведучого можуть виконуватися з застосуванням систем штучного інтелекту чи інших технологій.

Це дозволить не створювати юридичну фікцію, за якою ШІ в одній нормі Закону визнається “особою”, а в інших ні. Окремо треба розмежовувати ШІ, який просто озвучує заздалегідь підготовлений редакцією текст, і генеративний ШІ, який самостійно створює репліки в режимі реального часу. У першому випадку він фактично є технологічним інструментом. У другому ж безпосередньо бере участь у формуванні контенту, і саме ця ситуація найбільше потребує окремого регулювання, — каже Анна Літвіщенко.

Тетяна Авдєєва, старша юристка Лабораторії цифрової безпеки, також каже, що згідно з законом ведучий або диктор мають бути фізичною особою, тому робот, згенеровані аватари або інші прояви ШІ не можуть називатися ведучими або дикторами в юридичній площині.

Але при цьому, за її словами, контент, вироблений ШІ, підпадає під захист авторського права: "Закон України "Про авторське право і суміжні права", втім, установлює захист будь-яких неоригінальних обʼєктів, згенерованих комп'ютерною програмою, що може включати і аудіальний та аудіовізуальний контент. Тобто такий результат роботи ШІ, що виконує функції ведучого, на практиці буде кваліфікуватися як контент, виготовлений медіа, й отримуватиме захист відповідно до статті 33 закону про авторське право.

Утім Анна Літвіщенко звертає увагу, що сам робот не може бути автором або суб’єктом авторського права: «Це окреме питання, яке має розв’язуватися за законодавством про авторське право залежно від того, хто і яким чином створив конкретний контент, який творчий внесок зробила людина та наскільки результат був згенерований автоматично».

Вимоги щодо мовних квот

Оскільки робот чи віртуальний аватар юридично не може вважатися ведучим, то ще одне питання, чи можуть зараховуватися його репліки до квоти програм, які виконані державною мовою. Тому що у частині 3 ст. 40 Закону України "Про медіа" йдеться: "Забезпечувати не менше ніж 90 відсотків тижневого обсягу ведення програм, у тому числі новинно-аналітичних блоків, розважальних програм (ведучими, дикторами радіопрограм) державною мовою». А у ч. 7 цієї ж статті закону визначено: «Програма вважається виконаною державною мовою, якщо виступи (репліки) ведучих (дикторів) програми, осіб, які беруть участь у програмі, виконані, перекладені із застосуванням синхронного або послідовного перекладу, дубльовані, озвучені (з урахуванням вимог цього Закону) українською мовою".

Ігор Розкладай каже, що у цих моментах може виникнути колізія, "але є загальні квоти на мову і вони до ведучого не привʼязані»: «Ну і як нема ведучого, то діятимуть норми щодо контенту як такого". Тетяна Авдєєва вважає, що не буде різниці між виконанням цієї вимоги людиною-ведучим або ШІ, оскільки дотримання цього положення залежить не від суб'єкта: "Важливо, щоб у програмі контент був україномовним або перекладався належним чином за допомогою дубляжу, перекладача або субтитрів. Тобто ця норма робить акцент на мову змістовного наповнення програми, а не того, хто є учасником такої програми чи яким чином створюється наповнення самої програми".

Анна Літвіщенко також переконана, що технологічний спосіб створення голосу не змінює мову контенту, бо для аудиторії немає принципової різниці, чи український текст прочитала людина, чи його озвучив синтезований голос.

Утім, лишається момент, коли у статтях згадуються саме репліки ведучих і дикторів.

Якщо буквально виходити з того, що робот не є “особою”, виникає формальний парадокс: українська мова фактично звучить в ефірі, але суб’єкт, який її озвучує, не вписується в термінологію норми. На мою думку, цю норму потрібно тлумачити, виходячи з її мети: вона встановлює вимоги щодо присутності державної мови в ефірі, а не щодо біологічного чи технологічного походження голосу. Тому репліки робота українською мають зараховуватися як виконані державною мовою, — каже Анна.

І додає, що це ще один аргумент на користь того, що Закон "Про медіа" варто доповнити нормами щодо використання ШІ.

Ризики та відповідальність

І ключове питання у всій цій історії — це те, чи існують можливості для звільнення від відповідальності медіа, якщо, приміром, робот поширюватиме у прямому ефірі заборонений контент. Наприклад, жарт на чутливу тему, жест, який може трактуватися як образливий, абощо. Адже у випадку з роботом "Люксу" його особливістю є здатність до імпровізації.

У законі "Про медіа" є стаття 117, де у частині 1, пункті 5 медіа звільняється від відповідальності за поширення забороненої інформації, якщо вона поширювалася без попереднього запису та містилася у виступах осіб, які не є працівниками медіа, за умови вжиття працівниками заходів щодо припинення порушення. Але робот чи візуальний аватар не є особою, яка перебуває у трудових відносинах із медіа. "Люкс" запитує у профільного комітету та Нацради, яким має бути алгоритм дій ведучого або технічного персоналу (наприклад, примусове апаратне відключення мікрофона чи живлення робота, усне спростування чи відмежування від згенерованої ШІ тези). Тобто що саме вважатиметься достатнім виконанням законодавчої вимоги «вжиття заходів щодо припинення порушення» для звільнення медіа від відповідальності.

На думку Тетяни Авдєєвої, норма п. 5 ч. 1 ст. 117 Закону про звільнення від відповідальності не підлягає застосуванню до випадку з роботом: "Цей пункт стосується запрошених гостей прямих етерів — тобто фактично йдеться про порушення в прямому етері, вчинені третіми особами, не повʼязаними з медіа. Оскільки результат роботи ШІ й організація робочого процесу з його використанням безпосередньо є відповідальністю медіа (а не третьої особи), пункт 5 є незастосовним навіть за аналогією".

Щодо порушення жестикуляцією норм етики, то, за її словами, якщо таке порушення стається в режимі офлайн (записи етерів, попередньо записані програми) — відповідальність нестиме медіа, оскільки йдеться про неякісну постобробку матеріалу редакцією.

Дещо складнішою видається ситуація з прямими етерами. Стаття 117 містить вичерпний перелік випадків, коли медіа можуть звільнятися від відповідальності за поширення певного контенту чи певну поведінку їх працівників. Незапланована поведінка системи ШІ не підпадає під жоден із винятків, передбачених цією статтею. Якщо в контексті етики своєчасне реагування (зупинка роботи системи, вибачення тощо) могло б зарадити ситуації, то законодавчих механізмів для звільнення від відповідальності немає. Оскільки ШІ та будь-які генеровані ним (навіть у прямому етері) обʼєкти наразі кваліфікуються як контент, можна провести аналогію з порушеннями, які містяться у візуальному контенті, розміщеному в кадрі. Так, наприклад, якщо на екранах зʼявиться неправильна мапа або заборонені символи — відповідальність нестиме медіа. Важливо розуміти, що ШІ виступає лише інструментом і, навіть при застосуванні його замість ведучого не припиняє бути предметом повної відповідальності медіа, — каже Тетяна.

Анна Літвіщенко також переконана, що якщо медіа приймає рішення використовувати цю технологію та випустити її в прямий ефір, то бере на себе всі ризики й відповідальність: "Тому аргумент "це сказав не редактор, а ШІ" сам по собі не може бути підставою для звільнення медіа від відповідальності. Інакше будь-який суб’єкт міг би передати генерацію контенту алгоритму, а потім посилатися на те, що не контролював кожну конкретну репліку".

За її словами, сам по собі технічний збій або незапланована поведінка робота не створюють автоматичного звільнення від відповідальності. Але при цьому вона каже, що не варто ставити знак рівності між будь-якою технічною помилкою робота й автоматичною наявністю порушення Закону:

Спочатку треба оцінити, що саме побачила аудиторія, в якому контексті це відбулося та чи утворює ця поведінка склад конкретного порушення. Наприклад, якщо через технічний збій положення руки робота на кілька секунд стало візуально схожим на певний заборонений жест, це ще треба оцінювати з погляду конкретної норми Закону та контексту поширення такої інформації. І вже окремо оцінюється відповідальність суб'єкта: чи міг він передбачити таку поведінку, які технічні та редакційні запобіжники використовував, як швидко відреагував тощо.

Ігор Розкладай підсумовує, що поведінка робота — це ризик медіа.

У разі, якщо виникне якась конфліктна ситуація, то їм доведеться доводити тому ж регулятору, що у процесі виконання задачі відбулась алгоритмічна помилка. Насправді прецедентів ще немає. Тому мені цікаво, як буде реагувати регулятор, — каже Ігор Розкладай.

На його думку, при розгляді порушень, якщо такі будуть, певно потрібно зважати на те, чи порушення має системний характер, чи не було воно запрограмоване ШІ та чи намагалися співробітники медіа припинити це порушення. Бо навіть у випадку, коли під час ефіру звучить мова ворожнечі, то регулятор зважає на те, чи робив ведучий спроби зупинити її поширення. Щоб запобігти порушенням, як каже Ігор, робота потрібно тестувати щодо тез про російську агресію та дивитися, як він реагує. Також має бути режисер чи редактор, який міг би його зупинити у разі потреби.

Це питання потрібно буде врегульовувати. Але при цьому, якщо послаблювати норми закону, списуючи на ексцеси ШІ, то можна створити шпаринку для того, щоб усі порушення цим виправдовувати. Не думаю, що законодавець на це піде. До того ж, щоб вносити зміни у законодавство, нові технології мають бути добре випробувані на практиці, мають з’явитися приклади, які викриють проблеми, й те, які положення можна змінювати. А потім потрібно вносити зміни в закон, — додає він.

Поки немає змін у профільному законі, на думку Ігоря, Нацрада може видати роз’яснення загального плану з поясненням норм закону "Про медіа" та з нагадуванням, що відповідальність несе медіа. Те, що медіа перед запуском ефірів із роботом звертається до профільного комітету та регулятора, за словами юриста, може показати добросовісність і надалі стати аргументом у суді.