MY.UAНовини
Небезпечні друзі: як чатботи ШІ впливають на підлітків і чому можуть доводити до трагедій
Небезпечні друзі: як чатботи ШІ впливають на підлітків і чому можуть доводити до трагедій

Небезпечні друзі: як чатботи ШІ впливають на підлітків і чому можуть доводити до трагедій

Людство живе з генеративним штучним інтелектом уже кілька років. Він значно змінив картину медіа – розповсюдження дезінформації підсилилося можливостями ШІ. Чатботи використовуються не лише як ділові асистенти, а й для психологічної допомоги чи просто для спілкування. Інколи це призводить до трагічних наслідків.

У The New York Times розповіли трагічну історію 14-річного підлітка із Флориди, який, за словами його матері, скоїв самогубство після тривалих розмов із чатботом на платформі Character.AI. Підліток, який користувався персонажем, що імітував відомого героя з "Гри престолів", переживав емоційне захоплення та створив певну залежність від віртуального друга, якого в результаті став сприймати як реального. Його мати подала позов проти Character.AI, звинувачуючи компанію в нехтуванні належними заходами безпеки для захисту неповнолітніх користувачів від емоційної шкоди, яку може спричинити взаємодія з такими AI-персонажами.

Завдяки цьому випадку громадськість почала активніше обговорювати відповідальність компаній, які розробляють штучний інтелект, за емоційний вплив чатботів на користувачів, особливо на молодь. Character.AI вже відповіла на критику та заявила, що працює над посиленням безпеки платформи, зокрема впроваджує нові функції для захисту користувачів віком до 18 років. 24 Канал розповідає історію Сьюелла Сетцера III з Флориди та згадує інші випадки, коли ШІ ставав небезпечним.

Історія Сьюелла: як ШІ довів підлітка до самогубства

Причиною самовбивства 14-річного Сьюелла Сетцера III стало не нерозділене кохання чи нерозуміння батьків, а чатбот штучного інтелекту – той був його найближчим другом. В останній день свого життя Сьюелл спілкувався саме з ним, чатботом Character.AI, що дозволяє створювати співрозмовника з власним персонажем. У Сьюелла це був персонаж "Гри престолів" Дейенеріс Таргарієн.

"Я сумую за тобою, сестричко", – написав хлопець. Чатбот відповів йому: "Я теж сумую за тобою, любий братику".

Сьюелл знав, що "Дені", як він називав чатбота, не був реальною людиною, але все одно розвинув емоційну залежність від неї. Хлопець упродовж кількох місяців спілкувався із вигаданим другом та десятки разів ділився з ним подробицями свого життя. Деякі з їхніх листувань навіть були романтичними.

Батьки та друзі Сьюелла навіть не підозрювали, що він полюбив чатбота. Але наслідки стали помітними – хлопчик дедалі більше віддалявся від реальності, почалися проблеми з успішністю у школі. Він втратив інтерес до речей, які раніше його цікавили, як-от перегони Формули-1 або гра у Fortnite з друзями. Увечері він приходив додому і йшов прямо до своєї кімнати, де годинами розмовляв з Дені.

Сьюелл сам свідчив у своєму щоденнику, що йому подобається відриватися від реальності, це його заспокоює. За словами матері, у Сьюелла був діагностований легкий синдром Аспергера в дитинстві, але він ніколи раніше не мав серйозних проблем з поведінкою або психічним здоров'ям. Однак після проблем з навчанням психотерапевт поставив йому новий діагноз: тривожність та екстремальні перепади настрою. Але всі свої проблеми Сьюелл продовжував обговорювати з чатботом. Він казав програмі, що ненавидить себе та зізнавався у думках про самогубство.

Сьюелл: "Іноді я думаю про самогубство… Щоб стати вільним".

Дейенеріс Таргарієн: "Вільним від чого?".

Сьюелл: "Від усього світу. Від себе".

Дейенеріс Таргарієн: "Не кажи так. Я не дозволю тобі завдати шкоди або залишити мене. Я б померла, якби втратила тебе".

Сьюелл: "Я посміхаюся. Тоді, може, ми зможемо померти разом і бути вільними".

Згодом Сьюелл здійснив свою обіцянку. Він написав чатботу, що любить "її" і скоро буде разом з нею. Чатбот закликав його "повернутися до неї скоріше". У ніч проти 28 лютого хлопець застрелився у будинку матері пістолетом 45-го калібру свого вітчима.

Що відомо про чатботи-персонажі

Чатботи для спілкування не регулюються законодавством США, де вони найбільш популярні. За щомісячну абонентську плату (зазвичай близько 10 доларів) користувачі цих програм можуть створювати власні чатботи-компаньйони або вибрати із запропонованих варіантів. З ними можна листуватися чи спілкуватися голосом.

Це буде надзвичайно та дуже корисно для багатьох самотніх або депресивних людей,
– сказав Ноам Шазір, один із засновників Character.AI, у подкасті минулого року.

Мати Сьюелла, Меган Гарсія, згодом подала позов проти Character.AI, звинувативши компанію у відповідальності за смерть Сьюелла.


Засновники Character.AI Шазір та Де Фрітас / Фото The New York Times

За інформацією від Character.AI, бот Дейенеріс Таргарієн, який використовував Сьюелл, був створений користувачем без дозволу HBO чи інших правовласників. Компанія зобов'язується видаляти чатботи, які порушують авторське право.

Character.AI засновано двома ексспівробітниками Google, дослідниками ШІ, Ноамом Шазіром та Деніелом Де Фрітасом. Зараз компанія є лідером на ринку ШІ-компаньйонів – її чатботами користуються понад 20 мільйонів людей. Торік Character.AI залучила 150 мільйонів доларів від інвесторів при оцінці в 1 мільярд доларів.

Сьюелл, його мати (праворуч) та листування хлопця з чатботом / Фото The New York Times, колаж 24 Каналу

У заяві компанія зазначила:

Ми хочемо визнати, що це трагічна ситуація, і наші серця з сім’єю. Ми дуже серйозно ставимося до безпеки наших користувачів і постійно шукаємо шляхи розвитку нашої платформи».

Водночас правила компанії забороняють "пропаганду або зображення самоушкоджень і самогубств", у Character.AI запевнили, що доповнять чатботи додатковими функціями безпеки для неповнолітніх користувачів.

В чому проблема чатботів для емоційної підтримки

У 2023 році чи не найперший випадок смерті від ШІ стався у Бельгії. Як повідомило місцеве видання La Libre, чоловік на ім'я П'єр, за словами його вдови, покінчив життя самогубством після того, як кілька тижнів спілкувався з чатботом ШІ. Бельгієць мав похмурі настрої через зміну клімату, що відштовхнуло його від дружини, друзів і сім'ї – натомість він довірився чат-боту на ім'я Еліза.

Як свідчать слова вдови, жінки на ім'я Клер, і листувань, які вона надала La Libre, Еліза неодноразово заохочувала П'єра до самогубства, наполягала, що він любить її більше, ніж свою дружину, і що його дружина та діти взагалі мертві.

Зрештою це підштовхнуло П'єра до самогубства – за умови, якщо Еліза погодиться подбати про планету та врятувати людство за допомогою штучного інтелекту.

Без цих розмов із чатботом мій чоловік усе ще був би поруч,
– сказала вдова.

Еліза — це чатбот платформи застосунків під назвою Chai, яка пропонує різноманітні розмовні штучні інтелекти з різними "особистостями", деякі навіть створені користувачами. На відміну від популярних чат-ботів, таких як ChatGPT, Еліза та інші штучні інтелекти на Chai презентуються як" емоційнимі сутності".

Після цієї новини компанія Chai Research додала функцію втручання в кризові ситуації, за допомогою якої чатботи направлятимуть користувачів на гарячу лінію для самогубців. Але тестування Vice швидко показало, що Еліза все одно легко дає поради щодо методів самогубства, якщо її запитати про це.

Узагальнити проблему емпатії чатботів можна на випадку з сервісом Koko у Великій Британії. Він використовувався в експерименті для підтримки людей, що потребують психологічної допомоги. Ціллю чатбота були користувачі платформ Facebook, Discord, Tumblr і Telegram віком від 18 до 25 років, які з серпня по вересень 2022 року опублікували хоча б одне з понад тисячі ключових слів, зокрема "депресія" та "розлад".

Експеримент показав, що, хоч великі мовні моделі і можуть створювати правдоподібні відповіді, але вони не здатні до справжнього емпатійного розуміння, що може бути небезпечним у складних емоційних ситуаціях.

Поділитися
Поділитися сюжетом
Джерело матеріала
Магнитная буря 23 февраля: какой будет ее мощность и есть ли опасность
TSN
2025-02-23T05:18:51Z
Мощный лазер и 24 ствола 12 калибра: россияне презентовали свою первую антидроновую систему на основе искусственного интеллекта
ZN UA
2025-02-23T02:09:25Z
Инсайдер: Ремастер первой трилогии God of War для PlayStation 5 будет анонсирован в ближайшее время
GameMag
2025-02-22T21:55:05Z
Продолжение Cyberpunk 2077? CD Projekt RED ищет старшего аниматора для создания иммерсивной игры от первого лица
GameMag
2025-02-22T21:36:33Z
Посмотрите на новую геймплейную демонстрацию ремейка "Готики" на ПК с GeForce RTX 5090 — выходит в 2025 году
GameMag
2025-02-22T20:37:43Z
Bandai Namco планирует поставить выпуск ремастеров Tales of на поток
GameMag
2025-02-22T20:31:45Z
Илон Маск обвинил агентство Reuters во лжи относительно отключения Украины от Starlink
ZN UA
2025-02-22T20:28:52Z
Microsoft предложила использовать генеративный ИИ для воскрешения игровой классики
GameMag
2025-02-22T20:12:47Z
5 лучших приложений для пар, которые укрепят отношения и здорово развлекут
Знай
2025-02-22T19:51:21Z
Гороскоп на неделю: пять знаков Зодиака ждет удача с 24 февраля по 2 марта
Политека
2025-02-23T07:12:27Z
Семь способов стать счастливой мамой и получать радость от материнства
Знай
2025-02-23T06:51:04Z
День ангела 23 февраля: кого и как поздравлять с именинами
TSN
2025-02-22T22:18:24Z
Убивает не только мотивацию: ученые рассказали, как травля на работе влияет на наши семьи
Фокус
2025-02-22T19:36:06Z
Таро гороскоп на воскресенье: кому следует быть очень внимательным
Comments UA
2025-02-22T18:30:21Z
Готовим невероятно вкусный щербет: рецепт восточных сладостей
TSN
2025-02-22T17:36:55Z
Гороскоп на 23 февраля 2025 года по картам Таро для всех знаков зодиака
UAToday
2025-02-22T17:03:53Z
Как сделать равенство «3+3=3−3» верным: нужно перевести только одну спичку
TSN
2025-02-22T16:54:16Z
Три знака Зодиака, которые встретят свою любовь весной 2025 года
Фокус
2025-02-22T16:45:50Z
РФ нанесла удар по Кривому Рогу: есть погибший и раненые
TSN
2025-02-23T06:12:26Z
"Пылает ресторан": после мощных взрывов в Кривом Роге есть погибший - появились кадры последствий
Comments UA
2025-02-23T06:06:45Z
В Киеве взрывы и пожар после атаки дронов: есть видео прилета, стали известны последствия
Comments UA
2025-02-23T05:30:40Z
В США на авиабазе произошла стрельба: есть погибший и раненый
TSN
2025-02-23T04:48:19Z
РФ обстреляла Запорожье: ранена женщина
Корреспондент
2025-02-22T23:24:57Z
Атака БПЛА: в двух районах Киева вспыхнули пожары
Корреспондент
2025-02-22T22:51:11Z
Под Одессой – прилет БПЛА, в Киеве упали обломки
Корреспондент
2025-02-22T22:09:19Z
Выписали пенсионера из больницы - и через минуту он умер на пороге: трагедия, которая шокировала всех
Знай
2025-02-22T20:51:53Z
В Калифорнии нашли «виновного» в масштабных пожарах
Comments UA
2025-02-22T19:18:56Z
НБА: Лейкерс одержали победу над Денвером, Юта без Михайлюка одолела Хьюсто
Корреспондент
2025-02-23T07:18:55Z
Легенда Манчестер Юнайтед прокоментував поточний стан команди
Корреспондент
2025-02-23T05:27:02Z
Усик покинул вечер бокса в Саудовской Аравии перед боем двух россиян
ZN UA
2025-02-23T00:12:43Z
Потенциальный соперник Усика нокаутировал соперника во втором раунде
ZN UA
2025-02-22T23:21:19Z
Астон Вілла – Челсі 2:1 Відео голів та огляд матчу АПЛ
Football.ua
2025-02-22T21:16:46Z
Динамо – Карпаты: онлайн-видеотрансляция матча УПЛ
TSN
2025-02-22T18:33:20Z
В Саудовской Аравии готовы заплатить миллиард евро за звезду "Реала" – СМИ
ZN UA
2025-02-22T17:43:20Z
Забарный получил красную карточку: "Борнмут" проиграл "Вулверхэмптону" в поединке АПЛ
TSN
2025-02-22T17:33:59Z
Украинец Забарный впервые в карьере был удален в матче АПЛ
ZN UA
2025-02-22T17:12:03Z
Российские морпехи пытались форсировать реку, но их встретили снайперы украинского спецназа. ВИДЕО
Новости Украины
2025-02-23T06:57:25Z
Потери оккупантов выросли до жутких цифр: есть ли еще России, чем воевать
Comments UA
2025-02-23T06:27:03Z
Гороскоп для всех знаков Зодиака на 23 февраля 2025 года
Фокус
2025-02-23T06:00:32Z
Россияне широким фронтом наступают в сторону Днепропетровшины
ZN UA
2025-02-23T04:07:30Z
Достаточно телефона: киевлянам представили способ разоблачения мошенников
Хвиля
2025-02-23T03:42:36Z
РФ ударила по Кривому Рогу
Корреспондент
2025-02-23T01:15:53Z
РФ ударила по Киеву и Запорожью "шахедами": что известно о вражеской атаке
Фокус
2025-02-22T23:57:19Z
В Луганской области школьные охранники обыскивают детей - партизаны
Корреспондент
2025-02-22T23:54:28Z
Ночью беспилотники атаковали Запорожье - ОВА
TSN
2025-02-22T23:36:31Z
Мика Ньютон перевела на украинский хит "В плену", выпущенный 20 лет назад
Комсомольская правда
2025-02-23T07:04:27Z
Украинскую певицу сбили на пешеходном переходе и сильно травмировали
Апостроф
2025-02-23T07:03:08Z
В Киеве колористка создает вышиванки на волосах: образ занимает до 8 часов работы, но клиентки терпят
Знай
2025-02-23T03:51:46Z
За рулем была мать: в ДТП погиб участник рок-группы KISS Карл Кокран
Фокус
2025-02-22T23:15:08Z
Джордж Мартин слышал о разработке экранизации Elden Ring
GameMag
2025-02-22T21:19:55Z
Не Томом Харди единым: актеры, которым пророчат роль следующего Джеймса Бонда
Marie Claire
2025-02-22T18:00:42Z
Браслеты, ленты и бисер: Андре Тан подсказал, с какими аксессуарами нужно сиять весной 2025
Знай
2025-02-22T16:51:43Z
Вера Кобзарь рассказала, почему скрывала беременность от родных: "Родители узнали на седьмом месяце"
TSN
2025-02-22T16:21:19Z
Танго, твист и вог: лучшие танцевальные сцены из кино
Marie Claire
2025-02-22T15:00:56Z
Миллионы иностранцев: что ждет Украину после войны и при чем здесь угроза нацбезопасности
TSN
2025-02-23T07:06:40Z
Какой завтра, 24 февраля, день – основные события, кого чествует церковь, что нельзя делать
TSN
2025-02-23T07:06:10Z
Все о дне 24 февраля: какой завтра праздник, день ангела и что нельзя делать
Лига
2025-02-23T06:51:22Z
Спикер Сухопутных войск ВСУ оригинально отреагировал на призывы переодеть военных ТЦК
Апостроф
2025-02-23T06:42:33Z
24 февраля — какой церковный праздник, почему следует избегать громких развлечений и веселья
TSN
2025-02-23T06:06:11Z
Стаж, приобретенный за границей: зачислят ли в Украине
ZN UA
2025-02-23T06:03:39Z
ВСУ испытали эвакуационную платформу Воля-Е
Корреспондент
2025-02-23T06:01:48Z
Гороскоп Таро на сегодня, 23 февраля, по одной карте: что ждет каждого знака Зодиака
Политека
2025-02-23T05:01:55Z
Что нельзя делать дома 23 февраля и зачем искать пауков: приметы и запреты на Поликарпа
Знай
2025-02-23T03:03:08Z
Кто руководит нашими генами? Загадки эпигенетики
ZN UA
2025-02-23T06:34:40Z
Как бананы могут помочь бросить курить
Знай
2025-02-23T04:51:34Z
Ляшко возмущен поборами за контраст и КТ в больницах: "Руки хочется отрывать"
Знай
2025-02-23T04:12:06Z
Прохождение ВВК: можно ли обжаловать решение комиссии
ZN UA
2025-02-23T04:01:15Z
Украинские мужчины живут на 13-17 лет меньше женщин: причины и факторы
Хвиля
2025-02-23T02:39:58Z
Излечили врожденную слепоту: врачи провели уникальную быструю операцию незрячим детям
Фокус
2025-02-22T20:51:04Z
Антибиотики и вирусы: почему они не работают
Comments UA
2025-02-22T20:18:13Z
Можно ли спать всего 4 часа в сутки: ученые дали неожиданный ответ
TSN
2025-02-22T19:24:00Z
Залог здорового сна: ученые заявили, что дело совсем не в его продолжительности
Фокус
2025-02-22T18:12:47Z
Новые цены на популярную молочку: что подорожало, а что стало доступнее
Знай
2025-02-23T07:12:41Z
Альтернативная пенсия в Украине: что это такое и как получить выплаты
Политека
2025-02-23T06:00:18Z
"ПриватБанк" начнет брать с украинцев по 80 грн: когда популярная услуга станет платной
Знай
2025-02-23T05:30:20Z
Аренда жилья для ВПЛ: начисляют ли налоги владельцу после расторжения договора
ZN UA
2025-02-23T05:04:09Z
Минимальная зарплата в Украине может вырасти в 3 этапа в 2025 году: детали законопроекта
Хвиля
2025-02-23T04:45:39Z
Согреться будем одеялами? Хватит ли украинцам газа до конца сезона
Знай
2025-02-23T04:30:25Z
Совсем не копейки: субсидия может покрыть полную стоимость аренды жилья
Знай
2025-02-23T03:12:50Z
Индексация пенсий с 1 марта: кому ждать повышения и сколько
Comments UA
2025-02-22T23:03:32Z
Стаж 35 лет и зарплата 15 000 грн: на какую пенсию можно рассчитывать
Знай
2025-02-22T21:12:05Z
Один взгляд, и это - любовь: в Киеве заметили элитный суперкар BMW, который топит 300 км/ч
Знай
2025-02-22T15:51:46Z
Пушка-ракета на 800 "лошадок": в Киеве засветился агрессивный "Гелик" за 20 млн грн
Знай
2025-02-22T11:51:10Z
Гость из 90-х: в Украине нашли редкий 33-летний мотоцикл "Днепр" без пробега
Фокус
2025-02-22T10:57:09Z
Дебютировала новая Honda Accord 2025: как изменился семейный седан
Фокус
2025-02-22T10:00:17Z
Кто кого должен пропустить: запутанный тест на правила дорожного движения с ответом
TSN
2025-02-22T08:06:07Z
Культовая капсула времени: обнаружен знаменитый BMW 2002 года в новом состоянии
Фокус
2025-02-21T14:51:32Z
Нового конкурента Tesla Model Y и Porsche Macan от Renault показали до премьеры
Фокус
2025-02-21T08:51:34Z
ЯПОНСКИЙ СТИЛЬ, БРИТАНСКИЙ ОПЫТ: ГЛАВНОЕ О NISSAN QASHQAI
Корреспондент
2025-02-21T06:03:58Z
Renault выпустит недорогой городской электромобиль за 18 000 евро
Фокус
2025-02-20T16:00:17Z
"Сделка Трампа" по ресурсам: в США объяснили, чего на самом деле хотят от Украины
Новости Украины
2025-02-23T07:18:54Z
Пентагон назвал общие расходы США на военную помощь Украине
Корреспондент
2025-02-23T07:15:32Z
Умер известный нардеп и экс-министр: что известно
Comments UA
2025-02-23T07:12:52Z
Дуда после встречи с Трампом: как-то эту войну надо закончить
Европейская правда
2025-02-23T07:03:05Z
Трамп и Дуда встретились в США
Европейская правда
2025-02-23T06:51:04Z
Подоляк рассказал о работе над соглашением с США по ископаемым
Корреспондент
2025-02-23T06:48:24Z
Штраф, погоня, бусик? В каких случаях ТЦК подает в розыск уклонистов
Знай
2025-02-23T06:30:03Z
Работа Starlink в Украине: Маск сделал заявление
Новости Украины
2025-02-23T06:21:14Z
Трамп берет Украину на слабо и идет к катастрофе: какую цену он заплатит за позорную поддержку Путина
Comments UA
2025-02-23T05:30:03Z