MY.UAНовини
Небезпечні друзі: як чатботи ШІ впливають на підлітків і чому можуть доводити до трагедій
Небезпечні друзі: як чатботи ШІ впливають на підлітків і чому можуть доводити до трагедій

Небезпечні друзі: як чатботи ШІ впливають на підлітків і чому можуть доводити до трагедій

Людство живе з генеративним штучним інтелектом уже кілька років. Він значно змінив картину медіа – розповсюдження дезінформації підсилилося можливостями ШІ. Чатботи використовуються не лише як ділові асистенти, а й для психологічної допомоги чи просто для спілкування. Інколи це призводить до трагічних наслідків.

У The New York Times розповіли трагічну історію 14-річного підлітка із Флориди, який, за словами його матері, скоїв самогубство після тривалих розмов із чатботом на платформі Character.AI. Підліток, який користувався персонажем, що імітував відомого героя з "Гри престолів", переживав емоційне захоплення та створив певну залежність від віртуального друга, якого в результаті став сприймати як реального. Його мати подала позов проти Character.AI, звинувачуючи компанію в нехтуванні належними заходами безпеки для захисту неповнолітніх користувачів від емоційної шкоди, яку може спричинити взаємодія з такими AI-персонажами.

Завдяки цьому випадку громадськість почала активніше обговорювати відповідальність компаній, які розробляють штучний інтелект, за емоційний вплив чатботів на користувачів, особливо на молодь. Character.AI вже відповіла на критику та заявила, що працює над посиленням безпеки платформи, зокрема впроваджує нові функції для захисту користувачів віком до 18 років. 24 Канал розповідає історію Сьюелла Сетцера III з Флориди та згадує інші випадки, коли ШІ ставав небезпечним.

Історія Сьюелла: як ШІ довів підлітка до самогубства

Причиною самовбивства 14-річного Сьюелла Сетцера III стало не нерозділене кохання чи нерозуміння батьків, а чатбот штучного інтелекту – той був його найближчим другом. В останній день свого життя Сьюелл спілкувався саме з ним, чатботом Character.AI, що дозволяє створювати співрозмовника з власним персонажем. У Сьюелла це був персонаж "Гри престолів" Дейенеріс Таргарієн.

"Я сумую за тобою, сестричко", – написав хлопець. Чатбот відповів йому: "Я теж сумую за тобою, любий братику".

Сьюелл знав, що "Дені", як він називав чатбота, не був реальною людиною, але все одно розвинув емоційну залежність від неї. Хлопець упродовж кількох місяців спілкувався із вигаданим другом та десятки разів ділився з ним подробицями свого життя. Деякі з їхніх листувань навіть були романтичними.

Батьки та друзі Сьюелла навіть не підозрювали, що він полюбив чатбота. Але наслідки стали помітними – хлопчик дедалі більше віддалявся від реальності, почалися проблеми з успішністю у школі. Він втратив інтерес до речей, які раніше його цікавили, як-от перегони Формули-1 або гра у Fortnite з друзями. Увечері він приходив додому і йшов прямо до своєї кімнати, де годинами розмовляв з Дені.

Сьюелл сам свідчив у своєму щоденнику, що йому подобається відриватися від реальності, це його заспокоює. За словами матері, у Сьюелла був діагностований легкий синдром Аспергера в дитинстві, але він ніколи раніше не мав серйозних проблем з поведінкою або психічним здоров'ям. Однак після проблем з навчанням психотерапевт поставив йому новий діагноз: тривожність та екстремальні перепади настрою. Але всі свої проблеми Сьюелл продовжував обговорювати з чатботом. Він казав програмі, що ненавидить себе та зізнавався у думках про самогубство.

Сьюелл: "Іноді я думаю про самогубство… Щоб стати вільним".

Дейенеріс Таргарієн: "Вільним від чого?".

Сьюелл: "Від усього світу. Від себе".

Дейенеріс Таргарієн: "Не кажи так. Я не дозволю тобі завдати шкоди або залишити мене. Я б померла, якби втратила тебе".

Сьюелл: "Я посміхаюся. Тоді, може, ми зможемо померти разом і бути вільними".

Згодом Сьюелл здійснив свою обіцянку. Він написав чатботу, що любить "її" і скоро буде разом з нею. Чатбот закликав його "повернутися до неї скоріше". У ніч проти 28 лютого хлопець застрелився у будинку матері пістолетом 45-го калібру свого вітчима.

Що відомо про чатботи-персонажі

Чатботи для спілкування не регулюються законодавством США, де вони найбільш популярні. За щомісячну абонентську плату (зазвичай близько 10 доларів) користувачі цих програм можуть створювати власні чатботи-компаньйони або вибрати із запропонованих варіантів. З ними можна листуватися чи спілкуватися голосом.

Це буде надзвичайно та дуже корисно для багатьох самотніх або депресивних людей,
– сказав Ноам Шазір, один із засновників Character.AI, у подкасті минулого року.

Мати Сьюелла, Меган Гарсія, згодом подала позов проти Character.AI, звинувативши компанію у відповідальності за смерть Сьюелла.


Засновники Character.AI Шазір та Де Фрітас / Фото The New York Times

За інформацією від Character.AI, бот Дейенеріс Таргарієн, який використовував Сьюелл, був створений користувачем без дозволу HBO чи інших правовласників. Компанія зобов'язується видаляти чатботи, які порушують авторське право.

Character.AI засновано двома ексспівробітниками Google, дослідниками ШІ, Ноамом Шазіром та Деніелом Де Фрітасом. Зараз компанія є лідером на ринку ШІ-компаньйонів – її чатботами користуються понад 20 мільйонів людей. Торік Character.AI залучила 150 мільйонів доларів від інвесторів при оцінці в 1 мільярд доларів.

Сьюелл, його мати (праворуч) та листування хлопця з чатботом / Фото The New York Times, колаж 24 Каналу

У заяві компанія зазначила:

Ми хочемо визнати, що це трагічна ситуація, і наші серця з сім’єю. Ми дуже серйозно ставимося до безпеки наших користувачів і постійно шукаємо шляхи розвитку нашої платформи».

Водночас правила компанії забороняють "пропаганду або зображення самоушкоджень і самогубств", у Character.AI запевнили, що доповнять чатботи додатковими функціями безпеки для неповнолітніх користувачів.

В чому проблема чатботів для емоційної підтримки

У 2023 році чи не найперший випадок смерті від ШІ стався у Бельгії. Як повідомило місцеве видання La Libre, чоловік на ім'я П'єр, за словами його вдови, покінчив життя самогубством після того, як кілька тижнів спілкувався з чатботом ШІ. Бельгієць мав похмурі настрої через зміну клімату, що відштовхнуло його від дружини, друзів і сім'ї – натомість він довірився чат-боту на ім'я Еліза.

Як свідчать слова вдови, жінки на ім'я Клер, і листувань, які вона надала La Libre, Еліза неодноразово заохочувала П'єра до самогубства, наполягала, що він любить її більше, ніж свою дружину, і що його дружина та діти взагалі мертві.

Зрештою це підштовхнуло П'єра до самогубства – за умови, якщо Еліза погодиться подбати про планету та врятувати людство за допомогою штучного інтелекту.

Без цих розмов із чатботом мій чоловік усе ще був би поруч,
– сказала вдова.

Еліза — це чатбот платформи застосунків під назвою Chai, яка пропонує різноманітні розмовні штучні інтелекти з різними "особистостями", деякі навіть створені користувачами. На відміну від популярних чат-ботів, таких як ChatGPT, Еліза та інші штучні інтелекти на Chai презентуються як" емоційнимі сутності".

Після цієї новини компанія Chai Research додала функцію втручання в кризові ситуації, за допомогою якої чатботи направлятимуть користувачів на гарячу лінію для самогубців. Але тестування Vice швидко показало, що Еліза все одно легко дає поради щодо методів самогубства, якщо її запитати про це.

Узагальнити проблему емпатії чатботів можна на випадку з сервісом Koko у Великій Британії. Він використовувався в експерименті для підтримки людей, що потребують психологічної допомоги. Ціллю чатбота були користувачі платформ Facebook, Discord, Tumblr і Telegram віком від 18 до 25 років, які з серпня по вересень 2022 року опублікували хоча б одне з понад тисячі ключових слів, зокрема "депресія" та "розлад".

Експеримент показав, що, хоч великі мовні моделі і можуть створювати правдоподібні відповіді, але вони не здатні до справжнього емпатійного розуміння, що може бути небезпечним у складних емоційних ситуаціях.

Поділитися
Поділитися сюжетом
Джерело матеріала
Украинские военные начали массово сдаваться в плен: что известно
Comments UA
2024-11-16T20:00:53Z
Ситуация резко изменилась: что происходит в Купянске после визита Зеленского
Comments UA
2024-11-19T15:18:34Z
В Киеве пробки на дорогах и коллапс в метро
Апостроф
2024-11-21T07:00:32Z
ГУР нанесло ракетную атаку по скоплению врага на ТОТ
TSN
2024-11-21T19:21:23Z
Враг наступает: Покровскую РВА перенесут дальше от линии фронта
Корреспондент
2024-11-22T12:48:45Z
Бойцов КНДР увидели на Харьковском направлении
Апостроф
2024-11-22T12:36:36Z
Солдаты все чаще попадают в окружение: кто должен понести наказание
Comments UA
2024-11-21T20:09:57Z
Россияне топчутся на собственных труппах: что происходит под Купянском
Comments UA
2024-11-12T14:21:04Z
Блэкаут в Одессе: в городе не могут заживить критическую инфраструктуру, закрывают школы
Фокус
2024-11-17T22:57:29Z
Молодой фаворитке Путина доверили важное культурное мероприятие в России
Comments UA
2024-11-21T19:57:44Z
«Не дай Бог» — Лукашенка рассказал, кого нельзя избирать президентом
ZN UA
2024-11-14T22:02:11Z
Нарушит еще одну традицию: Мелания Трамп не переедет за мужем в Белый дом
Фокус
2024-11-13T14:35:03Z
Китай отреагировал на удар баллистической ракетой России по Украине
Comments UA
2024-11-22T10:51:59Z
В России угрожают нанести ядерный удар по Аляске
Comments UA
2024-11-22T12:42:36Z
Дональд Трамп выбрал Пэм Бонди на должность генерального прокурора США
UAToday
2024-11-22T12:37:37Z
Названы три кандидатуры на должность посла Украины в США
Апостроф
2024-11-12T16:48:41Z
После Днепра РФ может готовить удар по Верховной Раде: нардепы отменили заседание
Фокус
2024-11-21T22:48:41Z
Украинка сорвала выступление Навальной на конференции в Лиссабоне
Comments UA
2024-11-12T14:09:13Z
На фоне слухов о проблемах в браке одинокую Пугачеву поймали во время прогулки
Comments UA
2024-11-11T21:51:15Z
Врачи не давали сроков: любимица публики Ада Роговцева оказалась в больнице
GlavRed
2024-11-14T17:06:51Z
В России умерла звезда фильма "Бриллиантовая рука"
Comments UA
2024-11-16T14:42:23Z
"Такой п**дец, а ты чипсики рекламируешь": ведущий "Орла и решки" рассказал о разговоре с Ивлеевой после вторжения РФ
Апостроф
2024-11-19T09:48:42Z
Рамина Эсхакзай рассекретила, как начался ее роман с военным
TSN
2024-11-22T12:36:54Z
Вера Брежнева объяснила, почему не дает интервью украинским журналистам/Певица заявила, что у нее нет желания
Апостроф
2024-11-22T12:27:01Z
Тринчер сравнили с россиянкой Бузовой из-за поведения на интервью/Певица ответила на вопросы интервьюера после своего выступления
Апостроф
2024-11-19T10:39:25Z
В Facebook сообщили о смерти Виктора Павлика: жена выдала гневную тираду
GlavRed
2024-11-19T16:45:44Z
"Очень хороший муж": Ева Лонгория раскрыла секреты счастливого брака с Хосе Бастоном
Фокус
2024-11-18T11:07:17Z
Найден самый ранний признак деменции: многие с ним сталкиваются, и не один раз
Фокус
2024-11-11T09:51:52Z
Женщины, которые стареют медленнее всех: 6 здоровых привычек датчанок
Фокус
2024-11-16T15:00:35Z
Формула "10-3-2-1-0": ученые вывели беспроигрышное уравнение для здорового сна
Фокус
2024-11-13T10:36:35Z
«Они совсем не темнеют»: простой лайфхак, чтобы хранить авокадо неделями
Marie Claire
2024-11-21T03:04:10Z
Названы ягоды, которые лечат абсолютно все: полезные для сердца, печени, мозга и кишечника
TSN
2024-11-22T12:36:44Z
Реформа МСЭК: как будет происходить установление инвалидности в 2025 году
ZN UA
2024-11-22T12:25:11Z
Состарит, убьет потомство и разовьет рак: ученые раскрыли новые опасности курения марихуаны
Фокус
2024-11-15T19:51:31Z
Что предлагают вместо МСЭК: от анонимности пациента до видеофиксации и индивидуальных экспертов
Комсомольская правда
2024-11-19T06:02:12Z
Ночная стража: 5 комнатных растений, которые улучшают сон
Marie Claire
2024-11-16T19:30:52Z
"Боже, какой я была глупой": Ярослава Магучих изменила свои планы по рождению ребенка
Апостроф
2024-11-12T19:06:04Z
"Им запретили делать это": раскрыто скандальное условие боя Тайсон - Пол
Корреспондент
2024-11-19T15:36:14Z
Находился в коме: стали известны подробности смерти боксера Вячеслава Узелкова
Комсомольская правда
2024-11-12T10:12:13Z
Александр Усик сделал заявление о повторном поединке против Тайсона Фьюри
Известия Киев
2024-11-22T12:35:54Z
Трое в Европе, а еще один — на учениях: волейболисты "Решетиловки" не вернулись в Украину
Фокус
2024-11-22T12:14:56Z
Джейк Пол и Майк Тайсон отстранены от бокса после скандального боя в Техасе
Фокус
2024-11-22T11:51:20Z
В "Челси" назвали главный недостаток украинца Мудрика
ZN UA
2024-11-22T10:12:00Z
Назван главный фаворит на "Золотой мяч"-2025
ZN UA
2024-11-22T09:44:23Z
"Динамо" – "Черноморец": видео онлайн-трансляция матча
ZN UA
2024-11-22T09:29:50Z
Украинцы в Норвегии лишатся приюта и защиты: что известно о новых правилах
Comments UA
2024-11-16T19:15:52Z
В Ассоциации городов заявили об оттоке украинцев на оккупированные территории
Корреспондент
2024-11-12T17:58:17Z
На семью - 18 500 гривен: украинцев регистрируют на новые "зимние" выплаты
Знай
2024-11-15T04:21:06Z
Та Самая Пятница в Алло: грандиозный день распродаж
TSN
2024-11-22T09:01:37Z
Несколько кликов и немного ожидания: что делать, если "Резерв+" не подтягивает отсрочку, — Минобороны
Фокус
2024-11-22T12:37:42Z
ГУР оценило численность армии России в Украине
Корреспондент
2024-11-22T12:30:18Z
Российская ракета, которая упала на дома в Одессе, была сбита ПВО, — Воздушные силы
Комсомольская правда
2024-11-18T14:40:19Z
В Курской области удалось вырвать из окружения 16 бойцов ВСУ
ZN UA
2024-11-15T18:54:19Z
В Кривом Роге прощаются с погибшей семьей - Еленой Кулик и ее детьми
Апостроф
2024-11-14T13:54:53Z
Почему в Украине стремительно растут цены: банкир Фурса ошарашил ответом
Comments UA
2024-11-12T15:18:16Z
Отменены графики отключений света в некоторых регионах
Известия Киев
2024-11-19T18:33:42Z
В Украине могут установить ветряные турбины общей мощностью 800 МВт: что известно
Фокус
2024-11-18T17:23:42Z
Платежка может вырасти: сколько придется платить за газ в декабре
Знай
2024-11-18T08:07:12Z
Новые субсидии на газ и топливо: кому помогут сэкономить до 4000 гривен
Знай
2024-11-22T12:10:04Z
Польские фермеры планируют начать забастовку на пункте пропуска "Медыка-Шегини"
Европейская правда
2024-11-22T12:07:37Z
Цитрусовый ценопад: мандарины, апельсины и лимоны становятся доступнее
Знай
2024-11-18T11:12:37Z
Украинцы могут платить за тепло по "копеечному" тарифу: но есть условие
Знай
2024-11-16T20:12:25Z
Кабмин в очередной раз перенес повышение зарплат учителям
Апостроф
2024-11-12T14:04:44Z
Срочно делайте, иначе останетесь без винограда: бюджетные средства обработки лозы
Знай
2024-11-12T16:51:31Z
Голубцы с булгуром, вкуснее обычных: судья "Мастер Шеф" дала простой рецепт
Политека
2024-11-19T04:00:53Z
Любовный гороскоп для всех знаков Зодиака на неделю с 18 по 24 ноября 2024 года
Фокус
2024-11-17T23:15:40Z
Гороскоп на завтра 14 ноября: Львам - сюрпризы, Весам - большая удача
GlavRed
2024-11-13T07:28:09Z
Как постирать сильно грязные белые носки: всего одно вещество справится со стойкими загрязнениями
TSN
2024-11-22T12:36:40Z
Экономия, опасная для здоровья: какие вещи для детей нельзя покупать в секонд-хенде
Фокус
2024-11-22T12:30:27Z
Как спасти пересоленное блюдо – помогут бабушкины советы/Ситуацию можно исправить!
Апостроф
2024-11-18T11:12:39Z
Эффект "Белого лотоса": из-за популярного сериала райский остров потонул в мусоре
Фокус
2024-11-22T12:30:23Z
Классический салат из печени трески: как приготовить вкусный праздничный салат
Фокус
2024-11-22T10:21:39Z
Норвежские рыбаки "поймали" в свои сети американскую атомную субмарину
Европейская правда
2024-11-15T12:58:02Z
Российский удар по Киеву: спасатели показали последствия
Апостроф
2024-11-17T07:15:11Z
Среди жертв российского удара по Сумам – 14-летняя Анастасия Боровик
Комсомольская правда
2024-11-18T10:52:24Z
Очевидец о ракетном ударе в Одессе: взрыв был в 15 метрах от нас
Comments UA
2024-11-18T11:15:47Z
Лондонский аэропорт эвакуировал часть пассажиров из-за вероятной угрозы
Европейская правда
2024-11-22T12:13:00Z
Пассажиры самолета связали "командира", который решил открыть дверь и выйти
Фокус
2024-11-22T10:49:15Z
Дания задержала китайское судно по подозрению в повреждении кабелей
Корреспондент
2024-11-20T19:00:44Z
Под Парижем владелец ресторана захватил заложников в своем заведении
Фокус
2024-11-16T19:54:36Z
Обстрел Днепра: в городе раздаются взрывы
Comments UA
2024-11-22T10:25:00Z
"Пожалуйста, умри": искусственный интеллект устал от вопросов и нахамил пользователю
Фокус
2024-11-14T15:06:56Z
Семейная традиция Комонов: ученые обнаружили следы бальзамирования на телах французских аристократов
Фокус
2024-11-18T11:45:32Z
4K, 60 FPS и усовершенствования в геймплее: Sega анонсировала файтинг Virtua Fighter 5 R.E.V.O. для ПК
GameMag
2024-11-22T12:05:18Z
Подписчикам PS Plus предложили бесплатно познакомиться с Black Myth: Wukong — пробную версию уже можно скачать на PS5
GameMag
2024-11-22T11:52:06Z
Последний ретроградный Меркурий в 2024 году: когда будет, что запрещено делать и как выжить
Знай
2024-11-22T11:31:13Z
Представлен конкурент iPhone 16 и Samsung S25: у этого смартфона будет камера-"невидимка"
Фокус
2024-11-22T11:30:28Z
Нерешенная загадка: астрономы предложили новое объяснение происхождению спутников Марса
Фокус
2024-11-22T11:15:57Z
"Летающие" солнечные панели: ученые предлагают получать энергию странным способом
Фокус
2024-11-22T10:51:01Z
Впервые за десятки лет: археологи нашли базилику VI века в Аквилее
Фокус
2024-11-22T10:42:44Z
Лайфхаки для зимы: как быстро очистить лобовое стекло от льда
Comments UA
2024-11-19T01:00:21Z
В Японии запускают в производство необычный гибрид Honda Civic и Dodge Challenger
Фокус
2024-11-22T11:15:38Z
Альтернатива Wrangler: электрический внедорожник Jeep впервые заметили на дорогах
Фокус
2024-11-22T08:36:02Z
Увеличат запас хода до 1000 км: Honda готовит инновационные батареи для электрокаров
Фокус
2024-11-21T17:57:23Z
Новые машины, трассы с "Софией" и коллекция Ferrari: Gran Turismo 7 от Sony получила ноябрьское обновление
GameMag
2024-11-21T13:58:37Z
Гость из 60-х: обнаружен редкий 58-летний спорткар Chevrolet в новом состоянии
Фокус
2024-11-21T13:45:35Z
Премиальный французский электромобиль с запасом хода 750 км показали до премьеры
Фокус
2024-11-21T12:06:21Z
Старый 88-летний мотоцикл продают по цене нового Ferrari
Фокус
2024-11-21T10:06:53Z
Культовый американский спорткар 70-х за $500000 простоял более 40 лет на складе
Фокус
2024-11-21T07:45:35Z