Перша Конвенція Ради Європи про штучний інтелект. Чому це важливо і що це означає?

У п’ятницю Рада Європи погодила Конвенціюпро штучний інтелект (ШІ), яка стала першим прикладом міжнародно-правого документа, що має обов’язковий характер.

Раптовий і бурхливий розвиток штучного інтелекту й особливо — з кінця 2022 року — так званого генеративного штучного інтелекту супроводжується активним розвитком правового регулювання цього надзвичайно корисного та водночас потенційно небезпечного винаходу інженерної думки.

Цього року ZN.UA вже неодноразово писало про активну роботу урядів багатьох країн у регулюванні ШІ. Нагадаємо, що лише документів рівня стратегій і політик на 1 січня 2024 року було ухвалено близько тисячі. В десятках країн у 2020–2024 роках парламенти ухвалили чимало законів та інших нормативних актів, які регулюють різні аспекти створення інструментів ШІ та пом’якшення ризиків їх застосування. Це стосується, зокрема, охорони здоров’я та військової сфери.

На жаль, Україна, незважаючи на бурхливий розвиток інструментів ШІ, досі істотно відстає в регулюванні цієї революційної технології.

Хоча Міністерство цифрової трансформації презентувало Дорожню карту розвитку штучного інтелекту в Україні, це не можна назвати навіть початком, якщо порівнювати не тільки з більшістю країн Європи, США, Китаєм, а й із багатьма країнами Азії й Латинської Америки. Експертно-консультаційний комітет з питань розвитку сфери ШІ в Україні, створений при Міністерстві цифрової трансформації України ще 21 грудня 2019 року, для регулювання ШІ не виглядає активним (відповідальний — Тимофій Милованов). Якщо звернути увагу на вебсторінку Комітету, то, крім новини про Дорожню карту, там можна прочитати лише про запровадження безоплатного курсу зі ШІ для освітян. Серйозно? Це найсвіжіші новини, й вони — за 2023 рік. Інша інформація — це вдалі чорно-білі фото більш як 60 чинних, а також чомусь колишніх членів Комітету.

Саме для випадків, коли в національному законодавстві є пробіли в регулюванні важливих відносин, й існує міжнародне право, яке є надважливим інструментом установлення однакових правил поведінки для держав та міжнародних організацій.

Рівні регулювання ШІ за допомогою міжнародних норм

За останні два роки вже склалося декілька рівнів регулювання. Зокрема під час багатосторонніх міжурядових форумів було підписано кілька документів політичного характеру.

В переліку прикладів таких політичних домовленостей слід наприклад, назвати заяву лідерів G7 від 30 жовтня 2023 року щодо Хірошімського процесу, якою було затверджено Керівні принципи та Кодекс поведінки щодо ШІ. Підсумком британського саміту з питань безпеки ШІ стала декларація Блетчлі із закликом до міжнародної співпраці для управління ризиками штучного інтелекту.

Наступний рівень впливу міжнародних норм рекомендаційного характеру спостерігається в межах універсальних і регіональних міжурядових організацій. Наприклад, у січні 2024 року Всесвітня організація охорони здоров’я (ВООЗ) видала нові рекомендації щодо етики й управління великими мультимодальними моделями (LMM) — типом швидкозростаючої технології генеративного штучного інтелекту (ШІ) із застосуванням у всій системі охорони здоров’я.

А наприкінці березня 2024 року навіть неповоротка Генеральна асамблея ООН ухвалила резолюцію, спрямовану на просування надійного ШІ.

Текст, який було ухвалено без голосування, закликає членів ООН просувати «безпечні, захищені та надійні» системи штучного інтелекту й не використовувати систем, які можуть «становити надмірний ризик для здійснення прав людини».

Кілька років поспіль низка міжнародних організацій прагматично працює в напрямі використання ШІ в міжнародному кримінальному правосудді, боротьбі з кіберзлочинністю, дезінформацією в Інтернеті тощо.

Революційні ініціативи Ради Європи

Рада Європи (РЄ), членом якої Україна є з 1995 року, — один з лідерів у регулюванні ШІ.

Розроблена в РЄ Конвенція про ШІ з’явилася не на порожньому місці. Зокрема така робота вже давно ведеться у спеціалізованих структурних підрозділах РЄ і, що найцікавіше, вона здійснюється для розвитку судових систем у країнах-членах РЄ. Так, іще в грудні 2018 року Європейська комісія з питань ефективності правосуддя (CEPEJ) Ради Європи ухвалила перший європейський документ, що встановлює етичні принципи, пов’язані з використанням ШІ в судових системах.

1 грудня 2023 року Консультативна рада європейських судів (КРЄС) ухвалила рекомендаційний документ №26 (2023) «Рухаючись уперед: використання асистивних технологій у судочинстві». КРЄС є органом при Комітеті міністрів РЄ (до його складу входять чинні судді), який розробляє висновки, що безпосередньо стосуються питань незалежності та неупередженості суддів.

Отже, можна сказати, що в регулюванні ШІ принаймні в судових системах Україна є впливовим учасником процесів розроблення нормативних актів «м’якого» міжнародного права.

Зрештою, можна стверджувати, що з огляду на попередній досвід розроблення нормативних актів «м’якого» міжнародного права РЄ досить швидко (як для міжнародних документів такого рівня) розробила проєкт документу, який стане джерелом міжнародного права — обов’язковим до виконання.

Суть Рамкової конвенції

Повна назва документу — «Рамкова конвенція Ради Європи про штучний інтелект і права людини, демократію та верховенство права». Текст складається з 36 статей.

Конвенція встановлює правову базу, яка охоплює діяльність у межах життєвого циклу систем ШІ, що потенційно може втручатися в права людини, демократію та верховенство права.

Кожна сторона застосовує цю Конвенцію до діяльності в межах життєвого циклу систем ШІ, яку провадять органи державної влади або приватні особи, котрі діють від їх імені.

Сторони також розглядають ризики й наслідки, пов’язані з діяльністю приватних суб’єктів протягом життєвого циклу систем ШІ в спосіб, який відповідає об’єкту та меті цієї Конвенції.

«Цей перший свого роду глобальний юридично зобов’язувальний документ створено для того, щоб ШІ дотримувався загальних стандартів прав людини, демократії та верховенства права й було мінімізовано ризик їх порушення», — заявила генеральна секретарка Ради Європи Марія Пейчинович-Бурич.

Учасники Конвенції вживають або підтримують заходи для виявлення, оцінки, запобігання та пом’якшення ризиків, створених системами ШІ, з урахуванням фактичного та потенційного впливу на права людини, демократію та верховенство права.

Такі заходи мають:

• належним чином враховувати серйозність і ймовірність потенційних впливів ШІ;
• розглядати у відповідних випадках точки зору зацікавлених сторін, зокрема осіб, права яких можуть бути порушені;
• вживатися протягом усього життєвого циклу системи ШІ;
• включати моніторинг ризиків і негативного впливу на права людини, демократію та верховенство права;
• включати документацію про ризики, фактичний і потенційний вплив, а також підхід до управління ризиками;
• вимагати у відповідних випадках тестування систем ШІ перед тим, як зробити їх доступними для першого використання, й коли вони суттєво модифіковані.

Учасники Конвенції вживають або підтримують заходи, спрямовані на те, щоб відповідним чином розглядати негативний вплив систем ШІ на права людини, демократію та верховенство права. Такий несприятливий вплив і заходи щодо його усунення мають бути задокументовані, також має бути інформація про відповідні заходи з управління ризиками.

Нагадуємо: декілька тижнів тому Європейський Союз погодив Акт про штучний інтелект, який має бути частково введений у дію вже цього року. Але РЄ і ЄС — це різні міжнародно-правові суб’єкти з різним складом учасників.

На відміну від Акту ЄС, до Конвенції вже зараз можуть приєднатися країни, що не є членами ЄС. Близько одинадцяти держав, які не є членами Ради, брали участь у розробленні проєкту Конвенції.

Проблеми розроблення Конвенції

Незадовго до укладення документу чимало громадських організацій разом із окремими громадянами, науковцями, експертами з цифрових технологій та інвесторами в спільній заяві висловили занепокоєння тим, що держави-учасниці переговорів (включно з країнами, які не є членами Ради Європи, такими як США) обговорювали варіанти тексту, який міг дати змогу державам обмежити застосовність договору щодо державних органів, тобто виділити винятки для приватних компаній. На переконання цих організацій, «відповідь на всі заклики щодо регулювання штучного інтелекту, яке надає вільний доступ приватним компаніям і прихильникам жорсткої лінії безпеки, не виглядає ефективним захистом наших прав».

У спільному відкритому листі громадянське суспільство закликало країни-учасниць переговорів переконатися, що Конвенція про ШІ не робить винятків ні для приватних компаній, ні для випадків використання ШІ в інтересах «національної безпеки».

Цей лист було адресовано всім сторонам переговорів. Він об’єднує дві схожі ініціативи, спрямовані до уряду США та делегації ЄС.

Саме ухвалення Рамкової конвенції Ради Європи дає змогу Україні надолужити відставання в регулюванні ШІ. Для цього потрібно ратифікувати Конвенцію згідно з національними процедурами, визначеними Законом «Про міжнародні договори України».

Врешті-решт Конвенція стала успішним результатом дворічної роботи міжурядового органу РЄ — Комітету зі штучного інтелекту (CAI), який зібрав для розроблення проєкту договору 46 держав-членів Ради Європи, Європейський Союз і 11 держав, що не є членами (Аргентину, Австралію, Канаду, Коста-Ріку, Святий Престол, Ізраїль, Японію, Мексику, Перу, Сполучені Штати Америки та Уругвай), а також представників приватного сектору, громадянського суспільства та наукових кіл, які брали участь як спостерігачі.

В офіційній інформації на сайті РЄ зазначено: «Договір охоплює використання систем штучного інтелекту в державному секторі, включно з компаніями, що діють від його імені, й у приватному секторі. Конвенція пропонує сторонам два способи дотримання її принципів і зобов’язань під час регулювання приватного сектору: сторони можуть обрати пряме зобов’язання згідно з відповідними положеннями конвенції або як альтернативу вжити інших заходів для виконання положень угоди, повністю дотримуючись своїх міжнародних зобов’язань щодо прав людини, демократії та верховенства права. Такий підхід необхідний через відмінності правових систем у всьому світі».

В цій самій інформації наголошується на тому, що учасники Конвенції не будуть зобов’язані застосовувати її положення щодо діяльності, пов’язаної із захистом інтересів національної безпеки, але будуть зобов’язані забезпечити, щоб ця діяльність поважала міжнародне право й демократичні інститути та процеси. Конвенція не поширюватиметься на питання національної оборони, а також на дослідницьку й дослідно-конструкторську діяльність, за винятком випадків, коли тестування систем ШІ може потенційно втручатися в права людини, демократію чи верховенство права.

Конвенцію буде відкрито для підписання 5 вересня 2024 року в Литві.

Статтю підготовлено за підтримки програми Cara’s Fellowship Program