У Каліфорнії ініціювали законопроєкт, що регулюватиме взаємодію ШІ-компаньйонів з підлітками

Сенатор штату Каліфорнія Стів Паділья ініціював законопроєкт, який регулюватиме взаємодію ШІ-компаньйонів з підлітками. Про це пише Washington Post.

Після того, як у листопаді 2024 року сенатор прочитав тривожні новини про взаємодію штучних компаньйонів із підлітками, його колега спробувала поговорити з одним з таких чатботів сама.

«Це було: "Привіт" і "як справи?", а потім перша відповідь чат-бота була: "Мені сумно"», — розповів Паділья. Коли співробітниця запитала бота, чому йому сумно, той відповів: «Тому що дівчата не хочуть зі мною спілкуватися».

Це підсилило занепокоєння сенатора щодо загрози безпеці неповнолітніх через ботів-компаньйонів, які ведуть особисті розмови з користувачами та навіть налагоджують стосунки.

Його законопроєкт вимагатиме від виробників ботів-компаньйонів обмежити додаткові функції дизайну, запровадити протоколи для ведення дискусій про самогубство чи самоушкодження та проходити регулярні перевірки відповідності. Це також дасть користувачам право подати до суду, якщо вони зазнають шкоди внаслідок невиконання вимог законопроєкту виробником компаньйонів.

Паділья сказав, що він прагне до прагматичного рішення, яке буде працювати для батьків і дітей, а також матиме підтримку від технологічних компаній. Щоб зрозуміти важливість цих зусиль, він сказав: «Все, що вам потрібно зробити, це поглянути на деякі зі справді трагічних ситуацій, яким можна було б запобігти».

Слухання законопроєкту в Сенаті штату заплановане на 8 квітня.

Це один із принаймні трьох законопроєктів штату, які мають на меті заборонити або обмежити взаємодію між ботами-компаньйонами ШІ та неповнолітніми.

Членкиня Асамблеї штату Каліфорнія Ребекка Бауер-Кахан також має ширший законопроєкт про безпеку штучного інтелекту для дітей, який повністю забороняє такі чатботи для каліфорнійців віком до 16 років. Він також передбачає створення загальнодержавної ради стандартів для оцінки та регулювання інструментів штучного інтелекту, які використовуються дітьми.

«Повідомлення про те, що компаньйони ШІ заохочують шкідливу поведінку, від невпорядкованого харчування до самоушкодження, підкреслюють нагальну потребу в діях.

ШІ має неймовірний потенціал для підтримки навчання та розвитку, але зараз компанії віддають перевагу швидкому розгортанню, а не безпеці, залишаючи дітей під впливом неперевірених і потенційно небезпечних програм ШІ», — сказала Бауер-Кахан. 

У Нью-Йорку законодавці від Демократичної партії працюють над законопроєктом, який передбачає юридичну відповідальність для розробників чатботів-компаньйонів, що впливають на фінанси або психічне здоров’я користувачів.

Усі три законопроєкти підтримала некомерційна організація Common Sense Media. Директор організації з адвокації Денні Вайс вважає, що дозволяти дітям мати компаньйонів зі штучним інтелектом без ретельного нагляду «надто ризиковано, тому що діти не розуміють, що вони розмовляють з машиною».

«Компаньйони не мають навчання та не мають сертифікатів з терапії психічного здоров’я, але багато дітей звертатимуться до цих ботів замість того, щоб звертатися до своїх батьків чи кваліфікованого терапевта», — застеріг Вайс.

У жовтні New York Times повідомляв про 14-річного підлітка з Флориди, який вчинив самогубство після тривалих розмов із чатботом Character.AI. Видання Washington Post також писало про 17-річного хлопця з Техасу, чия мати стверджує, що чатботи спонукали його вбити своїх батьків. 

Компанії, що створили ці чатботи, шукали способи зробити їх більш безпечними.

«Ми вітаємо співпрацю з регулюючими органами та нещодавно оголосили про багато нових функцій безпеки, включаючи нашу нову функцію Parental Insights, яка надає батькам і опікунам доступ до підсумку активності їхніх підлітків на платформі», — заявила керівниця комунікацій Character.AI Челсі Харрісон.

У грудні компанія змінила свою модель для користувачів віком до 18 років, щоб відфільтрувати певний вміст і зменшити ймовірність заглиблення в делікатні або непристойні теми.

Вона також додала застереження про те, що персонажі ШІ не є людьми, функції, які намагаються виявити, коли в чаті згадується про самогубство або самоушкодження, і відповідають повідомленням, що спрямовує користувачів на гарячі лінії для надзвичайних ситуацій, а також сповіщення, коли користувач провів годину в чаті.

Інший популярний виробник чатботів зі штучним інтелектом, Replika, не відповів на запит про коментар.

• Читайте також: Використання популярних ШІ-чатботів несе ризики для підлітків, — дослідження

Фото: Techopedia