Неповнолітні використовують штучний інтелект для булінгу та створення порнографії. Як захистити себе?

Штучний інтелект стає звичним інструментом для дітей 

Чатботи з генеративним штучним інтелектом на кшталт ChatGPT стали причиною буму, або «весни» штучного інтелекту. Зростання інвестицій у ці інструменти з одночасним дуже оптимістичним прогнозом щодо доходів від ШІ призвели до того, що ця технологія поступово стає невіддільною частиною не лише бізнес-процесів, але й освіти, правоохоронної діяльності чи розваг. Поки ЮНЕСКО та Всесвітній економічний форум роздумують, як ШІ революціонізує освіту, він стає звичною технологією для дітей різного віку.

Передвісниками сучасних аналогів ChatGPT були Siri та розумні колонки (Amazon Echo, Google Home чи Apple HomePod), із якими діти спілкувалися до появи продукту від OpenAI. Тож для сучасних дітей взаємодія з ШІ-продуктами є звичним явищем. Дослідники з EMarketer оцінюють, що 12,2% дітей у США віком від нуля до 11 років і понад чверть (25,4%) з них у віці з 12 до 17 років давно використовують розумні колонки. За інформацією Ofcom, британського інтернет-регулятора, майже 80% британських підлітків віком від 13 до 17 років і 40% дітей віком від 7 до 12 років користуються генеративним ШІ та послугами.

Дослідження від Common Sense Media показало високий рівень сприйняття цих інструментів і їх використання. Автори дослідження дійшли висновку, що більш ніж половина молодих людей віком від 14 до 22 років використовувала принаймні один ШІ-інструмент. Найчастіше вони обирали чатбот для допомоги з домашніми завданнями — задля отримання інформації (53%) чи брейнстормінгу (51%). Окрім того, автори опитування виявили, що підлітки частіше використовують пошукові системи та чат-боти з підтримкою ШІ, ніж генератори зображень і відео.

AI for kids: новий сегмент ринку ШІ-інструментів

Не лише підлітки з їх бажанням спростити собі виконання домашніх завдань є користувачами штучного інтелекту. Ця технологія використовується також і дітьми. Простий пошук у Google показує великий вибір таких сервісів і додатків.

Сюди можна віднести спеціальні онлайн-середовища для творчості за допомогою штучного інтелекту, до прикладу, Kidgeni або інструменти для навчання програмування з використанням елементів ШІ — наприклад, Scratch.

Існують сайти, які пропонують дітям вивчення основ штучного інтелекту, до прикладу, Aiforkids. Є ще один однойменний проєкт, імовірно, теж орієнтований на дітей, правда, він є, швидше, прикладом не дуже гарно візуально оформленого продукту, який використовує назву «штучний інтелект» для привернення уваги.

Не лише пошук в інтернеті допомагає знайти дитячі ШІ-інструменти: в магазинах мобільних застосунків можна побачити ще більше таких додатків та інструментів — вони пропонують із їхньою допомогою грати в ігри, вчити мови чи розв’язувати головоломки.

Навіть у результаті поверхневого вивчення цих інструментів і рішень стає зрозуміло, що доволі часто використання в назві терміну «штучний інтелект» — це спосіб «хайпонути» на темі. Проте різноманіття ШІ-інструментів для дітей говорить про те, що уже за 4—5 років діти будуть так само легко взаємодіяти з ШІ, як сьогодні вони це роблять із соціальними мережами.

Навчання, розваги та всі-всі-всі

Відразу після появи ChatGPT експерти з технологій та освіти заговорили про те, що саме навчальний процес буде основним способом використання інструментів штучного інтелекту. Так подекуди й сталося — перші суперечки про те, чи варто використовувати ШІ в освіті, змінила думка про те, що ці сервіси та їхнє застосування — це майбутнє, від якого нікуди особливо не дітися. Саме тому навчальним закладам слід думати про те, як імплементувати їх у навчальний процес — навчити школярів використовувати ШІ та робити це правильно й відповідально.

У США деякі штати навіть запровадили обов’язкові курси з застосування ШІ. До прикладу, обов’язковий курс Digital Citizens in the Age of AI було запроваджено для учнів об’єднаного шкільного округу Лос-Анджелеса — його мають пройти всі школярі віком від 13 років. Округ також тестує навчальну платформу зі штучним інтелектом Ed, яка має чат-бота, здатного відповідати на запитання батьків і школярів.

На противагу такому повному прийняттю штучного інтелекту існують інші дослідження початку 2024 року. Вони говорять про неготовність навчальних закладів і батьків до майбутньої можливої ШІ-революції. Аналітики Internet Matters виявили, що кожен четвертий школяр уже використовує інструменти штучного інтелекту для виконання домашніх завдань. І це при тому, що про ці інструменти майже не згадують у навчальному процесі чи розмовах із батьками. 60% дітей відповіли в опитуванні, що в школі ніяк не обговорювали ШІ-інструменти. Така ж кількість батьків повідомила про те, що з ними також ніхто не розмовляв про плани навчального закладу щодо використання ШІ.

Таке різноманіття і навіть у певному розумінні хаос у взаємодії зі штучним інтелектом говорить про те, що поки у суспільстві немає єдиних усталених норм щодо того, яким чином і коли знайомити дітей і підлітків із ШІ. Проте, як показують дослідження, самі ж діти не особливо чекають появи цих норм, а активно використовують нову технологію. 

До прикладу, підлітки звертаються до чатботів штучного інтелекту з метою пошуку друзів. Вони часто обирають чатботів-психологів, до прикладу, Character.AI. Поки мало обговорюються ризики таких взаємодій, можливо, через те, що такі чатботи як Character.AI створені спеціально для психологічної підтримки. Проте виключати можливі складнощі у взаємодії з такими ботами не варто — адже невідомо, з якими проблемами до бота звернеться користувач і як бот зможе відреагувати.

Темна сторона штучного інтелекту 

Швидке прийняття ШІ-інструментів і їх активне використання підлітками не обмежилося лише корисним застосуванням цієї технології. На жаль, підлітки, так само як і дорослі, використовують інструменти штучного інтелекту для створення дипфейків і булінгу своїх ровесників. За останній рік було зафіксовано велику кількість таких випадків.

П’ятеро школярів із Каліфорнії були виключені зі школи після того, як стало відомо, що вони створювали за допомогою штучного інтелекту та розповсюджували оголені фото однокласників. У Флориді підлітків заарештували за подібні вчинки. Популярність ШІ-інструментів для булінгу однокласників стала проблемою не лише у США. Цим займаються підлітки у Південній Кореї. Проблема поширення дипфейків у цій країні стала настільки серйозною, що її назвали дипфейк-кризою. Декілька місяців тому в національному сегменті інтернету ширилися списки шкіл, учениці яких були жертвами таких відео. Тож законодавці були вимушені реагувати на ці недитячі забавки — і тепер парламент цієї країни почав розгляд законопроєкту, який установлює кримінальну відповідальність за перегляд і володіння такими відео.

«Клепають» дипфейки й школярі з Австралії, а серйозність цієї проблеми у Великобританії стала причиною криміналізації цих дій. Особливо небезпечним способом використання ШІ для створення секс-відео є нещодавно виявлені активні спроби створювати такий контент на основі знайдених і раніше створених матеріалів сексуального насильства над дітьми (CSAM — child sexual abuse material). Це означає, що діти, які раніше були жертвами насилля, переслідувань, і порновідео з ними було поширено в мережі, завдяки ШІ стають жертвами такого контенту повторно: на основі старих матеріалів генерується новий контент так само порнографічного характеру. «Моє тіло більше ніколи не буде моїм, і це те, з чим багато тих, хто вижив, змушені боротися», — цитує The Guardian одну з таких жертв.

Про рівень популярності такого використання штучного інтелекту серед підлітків свідчить опитування, проведене організацією Thorn, про яке пише видання 404. Головний його результат — інформація про те, що принаймні 10% неповнолітніх сказали, що їхні друзі використовують штучний інтелект для створення оголених зображень інших дітей.

Таке використання ШІ-інструментів відбувається в контексті повної безконтрольності та навіть нерозуміння ризиків ШІ й неусвідомлення дорослими того, як діти використовують ці сервіси та додатки.

Так, дослідження, проведене некомерційною організацією Common Sense Media, показало, що дорослі не особливо знайомі з тим, як їхні діти використовують штучний інтелект. Майже 25% батьків не знали про те, що їхні діти знайомі з ШІ-інструментами. А лише 37% батькам було відомо про такий досвід їхніх дітей. Торік ця ж організація провела схоже опитування щодо використання ШІ дорослими та дітьми. Головним висновком цього дослідження став більш активний досвід дітей в освоєнні ШІ. Понад те — діти часто воліли не розповідати дорослим про те, яким чином вони використовують штучний інтелект. Імовірно, причина використання ШІ для булінгу — це наслідок таких патернів у використанні ШІ.

Правовий захист жертв дипфейк-порно

Якщо соціальні платформи та відеосервіси, які існують понад 20 років, стали звертати увагу на цю проблему,запроваджуючи все більш активні та різноманітні інструменти батьківськогоконтролю, то ШІ-сервіси поки не надають особливого значення такій «темній» стороні їхнього використання. До прикладу, в угоді з користувачами OpenAI (розробника ChatGPT) сказано, що користуватися цим інструментом можуть діти, старші 13 років. Але ті, кому менш як 18 років, повинні робити це з дозволу батьків чи опікунів. Проте компанія ніяким чином не контролює вік своїх користувачів, навіть не запитує у сповіщенні, чи виповнилося юзерам 18.

Водночас проблема створення дипфейків на основі ШІ-інструментів є настільки глобальною, що вже існують окремі спроби її розв’язання на інституційному рівні. У коментарі для «Детектора медіа» співробітники адвокатського бюро «Тимошук і партнери» Василь Тимошук і Оксана Квашніна розповіли про нормативні документи, які стосуються поширення дипфейків:

«Наразі існують ось такі європейські закони, які стосуються проблеми поширення дипфейків:

• Закон Європейського Союзу про цифрові послуги (DSA). Документ напряму не забороняє створення порнофейків, утім він обмежує поширення приватних зображень без дозволу особи, а також матеріалів, що можуть становити сексуальне насилля над дітьми (CSAM). DSA зазначає, що платформи мають обмежувати поширення контенту, який заборонений національним законодавством. Також DSA встановлює обовʼязки запобігати гендерно зумовленому насиллю онлайн, частиною якого є порнодипфейки, дезінформація і поширення реальних інтимних зображень, а також передбачити умови на наслідки таких дій.
• Акт про ШІ, ухвалений 13 березня 2024 року Європейським парламентом. У цьому документі дається визначення дипфейку, вказано його характеристики. Саме він визначає, який саме контент має бути перевірений і обмежений у доступі та використанні. До прикладу, стаття 52(3) вимагає прозорості від виробників дипфейків, це означає явну відмітку про те, що зображення є згенерованим ШІ, а не автентичним».

Як захистити себе від дипфейку

Менш як два роки минуло від моменту, коли ChatGPT став доступний широкому загалу. Це стало поштовхом до появи аналогів, здатних не лише генерувати текст, але й створювати зображення та відео. Швидкість, із якою діти й підлітки опанували інструменти штучного інтелекту, так само вражає. Проте одночасно з корисним застосуванням ШІ дуже швидко виникли інші шаблони його використання, які підхопили саме неповнолітні. Випадки активного використання ШІ не на користь, а на шкоду говорять про незрілість цієї технології для масового використання та про те, що її розробники не передбачили всі проблемні її моменти. Якщо розробники штучного інтелекту не зможуть оперативно розв’язати цю проблему, ця технологія ризикує стати причиною серйозних наслідків. Поки специфічні обмеження не запровадили, людина, яка стала жертвою булінгу за допомогою дифейків, може використати на свій захист чинне законодавство.

Оксана Квашніна розповіла, яким чином в Україні можна захистити себе у ситуації, коли з фото людини чи дитини без її дозволу створили порнографічний контент, зокрема за допомогою штучного інтелекту:

«Судова практика вже стикалася з такими проблемами як дипфейки порнографічного характеру, за яке передбачається адміністративна та кримінальна відповідальність. Так, Кримінальний кодекс України містить статтю 301, яка передбачає покарання за ввезення, виготовлення, збут і розповсюдження порнографічних предметів. Якщо додатково до поширення порнографічного контенту присутнє й вимагання як умова для видалення фотографії, то може бути додатково встановлено кримінальну відповідальність особи за статтею 189 “Вимагання”.

У межах розгляду справ стосовно створених дипфейків порнографічного характеру необхідним є проведення спеціальних експертиз. Їхня мета — встановити, чи належить контент до такого, що має порнографічний характер, по-друге, чи дійсно цей контент виготовлений/створений за допомогою штучного інтелекту. Але в будь-якому разі відповідальність, передбачена українським законодавством, покладається безпосередньо на ту особу, яка своїми діями зберігала, створила, розповсюдила такі фото/відео порнографічного характеру».

Ось покрокова інструкція, як захистити себе у випадках незаконного використання вашого фото з метою створення порнографічного контенту.

Випадок 1. Поширення публікації на сайті чи іншому інтернет-ресурсі:

1. Звернутись до власника сайту та вимагати видалення такого контенту.

2. Обов’язково зробити знімки екранів, де видно, що зображення інтимного характеру розміщено на сайті без вашого дозволу.

3. З цими копіями екрана можна звертатися до відділу поліції з заявою про вчинення кримінального правопорушення стосовно жертви. Навіть за умови анонімного розміщення фото чи відео або коли публікація є видаленою, завжди залишається цифровий слід, за допомогою якого працівники правоохоронних органів можуть встановити ІР-адресу, з якої було завантажено цей матеріал.

4. Звернутися до суду з позовом про захист честі й гідності та відшкодуванням моральної шкоди в порядку цивільного судочинства.

Випадок 2. Пересилання таких порнодипфейків безпосередньо особі, котра є на фото

У цьому випадку потрібно так само зробити копії екранів і з ними звернутися в поліцію. Якщо пересилання фото супроводжується вимаганням коштів як умови для видалення фотографії, то це правопорушення може бути додатково кваліфіковано як кримінальний злочин за статтею «Вимагання».

Так само цей варіант може передбачати звернення до суду з позовом про захист честі й гідності та відшкодуванням моральної шкоди в порядку цивільного судочинства.

Титульне фото: Getty Images