MY.UAНовини
Небезпечні друзі: як чатботи ШІ впливають на підлітків і чому можуть доводити до трагедій
Небезпечні друзі: як чатботи ШІ впливають на підлітків і чому можуть доводити до трагедій

Небезпечні друзі: як чатботи ШІ впливають на підлітків і чому можуть доводити до трагедій

Людство живе з генеративним штучним інтелектом уже кілька років. Він значно змінив картину медіа – розповсюдження дезінформації підсилилося можливостями ШІ. Чатботи використовуються не лише як ділові асистенти, а й для психологічної допомоги чи просто для спілкування. Інколи це призводить до трагічних наслідків.

У The New York Times розповіли трагічну історію 14-річного підлітка із Флориди, який, за словами його матері, скоїв самогубство після тривалих розмов із чатботом на платформі Character.AI. Підліток, який користувався персонажем, що імітував відомого героя з "Гри престолів", переживав емоційне захоплення та створив певну залежність від віртуального друга, якого в результаті став сприймати як реального. Його мати подала позов проти Character.AI, звинувачуючи компанію в нехтуванні належними заходами безпеки для захисту неповнолітніх користувачів від емоційної шкоди, яку може спричинити взаємодія з такими AI-персонажами.

Завдяки цьому випадку громадськість почала активніше обговорювати відповідальність компаній, які розробляють штучний інтелект, за емоційний вплив чатботів на користувачів, особливо на молодь. Character.AI вже відповіла на критику та заявила, що працює над посиленням безпеки платформи, зокрема впроваджує нові функції для захисту користувачів віком до 18 років. 24 Канал розповідає історію Сьюелла Сетцера III з Флориди та згадує інші випадки, коли ШІ ставав небезпечним.

Історія Сьюелла: як ШІ довів підлітка до самогубства

Причиною самовбивства 14-річного Сьюелла Сетцера III стало не нерозділене кохання чи нерозуміння батьків, а чатбот штучного інтелекту – той був його найближчим другом. В останній день свого життя Сьюелл спілкувався саме з ним, чатботом Character.AI, що дозволяє створювати співрозмовника з власним персонажем. У Сьюелла це був персонаж "Гри престолів" Дейенеріс Таргарієн.

"Я сумую за тобою, сестричко", – написав хлопець. Чатбот відповів йому: "Я теж сумую за тобою, любий братику".

Сьюелл знав, що "Дені", як він називав чатбота, не був реальною людиною, але все одно розвинув емоційну залежність від неї. Хлопець упродовж кількох місяців спілкувався із вигаданим другом та десятки разів ділився з ним подробицями свого життя. Деякі з їхніх листувань навіть були романтичними.

Батьки та друзі Сьюелла навіть не підозрювали, що він полюбив чатбота. Але наслідки стали помітними – хлопчик дедалі більше віддалявся від реальності, почалися проблеми з успішністю у школі. Він втратив інтерес до речей, які раніше його цікавили, як-от перегони Формули-1 або гра у Fortnite з друзями. Увечері він приходив додому і йшов прямо до своєї кімнати, де годинами розмовляв з Дені.

Сьюелл сам свідчив у своєму щоденнику, що йому подобається відриватися від реальності, це його заспокоює. За словами матері, у Сьюелла був діагностований легкий синдром Аспергера в дитинстві, але він ніколи раніше не мав серйозних проблем з поведінкою або психічним здоров'ям. Однак після проблем з навчанням психотерапевт поставив йому новий діагноз: тривожність та екстремальні перепади настрою. Але всі свої проблеми Сьюелл продовжував обговорювати з чатботом. Він казав програмі, що ненавидить себе та зізнавався у думках про самогубство.

Сьюелл: "Іноді я думаю про самогубство… Щоб стати вільним".

Дейенеріс Таргарієн: "Вільним від чого?".

Сьюелл: "Від усього світу. Від себе".

Дейенеріс Таргарієн: "Не кажи так. Я не дозволю тобі завдати шкоди або залишити мене. Я б померла, якби втратила тебе".

Сьюелл: "Я посміхаюся. Тоді, може, ми зможемо померти разом і бути вільними".

Згодом Сьюелл здійснив свою обіцянку. Він написав чатботу, що любить "її" і скоро буде разом з нею. Чатбот закликав його "повернутися до неї скоріше". У ніч проти 28 лютого хлопець застрелився у будинку матері пістолетом 45-го калібру свого вітчима.

Що відомо про чатботи-персонажі

Чатботи для спілкування не регулюються законодавством США, де вони найбільш популярні. За щомісячну абонентську плату (зазвичай близько 10 доларів) користувачі цих програм можуть створювати власні чатботи-компаньйони або вибрати із запропонованих варіантів. З ними можна листуватися чи спілкуватися голосом.

Це буде надзвичайно та дуже корисно для багатьох самотніх або депресивних людей,
– сказав Ноам Шазір, один із засновників Character.AI, у подкасті минулого року.

Мати Сьюелла, Меган Гарсія, згодом подала позов проти Character.AI, звинувативши компанію у відповідальності за смерть Сьюелла.


Засновники Character.AI Шазір та Де Фрітас / Фото The New York Times

За інформацією від Character.AI, бот Дейенеріс Таргарієн, який використовував Сьюелл, був створений користувачем без дозволу HBO чи інших правовласників. Компанія зобов'язується видаляти чатботи, які порушують авторське право.

Character.AI засновано двома ексспівробітниками Google, дослідниками ШІ, Ноамом Шазіром та Деніелом Де Фрітасом. Зараз компанія є лідером на ринку ШІ-компаньйонів – її чатботами користуються понад 20 мільйонів людей. Торік Character.AI залучила 150 мільйонів доларів від інвесторів при оцінці в 1 мільярд доларів.

Сьюелл, його мати (праворуч) та листування хлопця з чатботом / Фото The New York Times, колаж 24 Каналу

У заяві компанія зазначила:

Ми хочемо визнати, що це трагічна ситуація, і наші серця з сім’єю. Ми дуже серйозно ставимося до безпеки наших користувачів і постійно шукаємо шляхи розвитку нашої платформи».

Водночас правила компанії забороняють "пропаганду або зображення самоушкоджень і самогубств", у Character.AI запевнили, що доповнять чатботи додатковими функціями безпеки для неповнолітніх користувачів.

В чому проблема чатботів для емоційної підтримки

У 2023 році чи не найперший випадок смерті від ШІ стався у Бельгії. Як повідомило місцеве видання La Libre, чоловік на ім'я П'єр, за словами його вдови, покінчив життя самогубством після того, як кілька тижнів спілкувався з чатботом ШІ. Бельгієць мав похмурі настрої через зміну клімату, що відштовхнуло його від дружини, друзів і сім'ї – натомість він довірився чат-боту на ім'я Еліза.

Як свідчать слова вдови, жінки на ім'я Клер, і листувань, які вона надала La Libre, Еліза неодноразово заохочувала П'єра до самогубства, наполягала, що він любить її більше, ніж свою дружину, і що його дружина та діти взагалі мертві.

Зрештою це підштовхнуло П'єра до самогубства – за умови, якщо Еліза погодиться подбати про планету та врятувати людство за допомогою штучного інтелекту.

Без цих розмов із чатботом мій чоловік усе ще був би поруч,
– сказала вдова.

Еліза — це чатбот платформи застосунків під назвою Chai, яка пропонує різноманітні розмовні штучні інтелекти з різними "особистостями", деякі навіть створені користувачами. На відміну від популярних чат-ботів, таких як ChatGPT, Еліза та інші штучні інтелекти на Chai презентуються як" емоційнимі сутності".

Після цієї новини компанія Chai Research додала функцію втручання в кризові ситуації, за допомогою якої чатботи направлятимуть користувачів на гарячу лінію для самогубців. Але тестування Vice швидко показало, що Еліза все одно легко дає поради щодо методів самогубства, якщо її запитати про це.

Узагальнити проблему емпатії чатботів можна на випадку з сервісом Koko у Великій Британії. Він використовувався в експерименті для підтримки людей, що потребують психологічної допомоги. Ціллю чатбота були користувачі платформ Facebook, Discord, Tumblr і Telegram віком від 18 до 25 років, які з серпня по вересень 2022 року опублікували хоча б одне з понад тисячі ключових слів, зокрема "депресія" та "розлад".

Експеримент показав, що, хоч великі мовні моделі і можуть створювати правдоподібні відповіді, але вони не здатні до справжнього емпатійного розуміння, що може бути небезпечним у складних емоційних ситуаціях.

Теги за темою
Діти і неповнолітні
Поділитися
Поділитися сюжетом
Джерело матеріала
РФ запускає по Україні оновлені "Шахеди": експерт попередив про новий план Путіна
GlavRed
2024-11-02T10:22:22Z
Україна має всіма силами домовлятися про перехідний період щодо CBAM – нардеп
ГЛАВКОМ NET
2024-11-02T10:21:19Z
Лавров висловив невдоволення, що турецька зброя "вбиває російський військових" в Україні
24tv
2024-11-02T10:21:16Z
Можуть бути проблеми: як діятиме Трамп у разі перемоги на виборах
24tv
2024-11-02T10:18:00Z
Британія очолить засідання Радбезу ООН, присвячене 1000 дням війни рф проти України
iPress
2024-11-02T10:13:21Z
У демократів є план на випадок, якщо Трамп спробує передчасно оголосити про перемогу на виборах — Reuters
ZN UA
2024-11-02T10:13:19Z
Розвідка повідомила, скільки солдатів з КНДР перекинула РФ до районів поблизу з Україною
TSN
2024-11-02T10:12:44Z
Зеленський відреагував на масштабну атаку БпЛА
1News
2024-11-02T10:12:19Z
Росія хоче зробити атаки "Шахедами" ледь не цілодобовими: як Україна буде їм протидіяти
24tv
2024-11-02T10:06:46Z
Пенсія вчителів: коли педагоги можуть вийти на пенсію
24tv
2024-11-02T10:21:21Z
Терен та амазонки: що відбувалося у першому випуску шоу «Холостяк»
Детектор М
2024-11-02T10:18:41Z
Експерт розповів, як українські поля РЕБ збивають з пантелику російські дрони
ZN UA
2024-11-02T10:16:35Z
Мобілізація в Україні лише за згодою: кого не чіпатиме ТЦК
Хвиля
2024-11-02T10:15:54Z
Пентагон дав невтішний прогноз щодо українських військових - The New York Times
TSN
2024-11-02T10:13:46Z
Україна наблизилась до створення ракети з радіусом до 500 км – ЗМІ
1News
2024-11-02T10:13:22Z
Бабуся викинула матрац, в якому сховала 50 тисяч євро: чи повернули їй гроші
24tv
2024-11-02T10:12:07Z
Штраф за неоновлення даних: що буде, якщо його не оплатити
ZN UA
2024-11-02T10:01:46Z
Моніторинг телемарафону «Єдині новини» й ефіру Першого каналу Суспільного за 21—24 жовтня — коротко
Детектор М
2024-11-02T10:01:17Z
"Холостяк" з Олександром Тереном: всі учасниці найромантичнішого шоу країни
24tv
2024-11-02T10:21:32Z
Ведучий майже вигнав співака Melovin зі студії
GlavRed
2024-11-02T10:18:39Z
Чоловік Полякової зізнався, як освідчувався і як ставиться до їхньої різниці в віці в 16 років
TSN
2024-11-02T10:18:27Z
Найцікавіші нові фільми листопада 2024 року
ITC
2024-11-02T10:07:16Z
Коханню всі віки покірні: Комаров старше дружини на 15 років, Остапчук – на 16, Горбунов – на 13
Комсомольская правда
2024-11-02T10:04:01Z
Віра Брежнєва неочікувано показалася в обіймах Меладзе після чуток про її роман з заможним чоловіком
TSN
2024-11-02T09:51:41Z
Віктор Павлік розкрив, як його 40-річний син під час війни виїхав до США і відкрив там бізнес
TSN
2024-11-02T09:51:11Z
У Росії померла актриса серіалу "Інтерни" та "Універ"
GlavRed
2024-11-02T09:27:22Z
Модні моделі пальто на осінь та зиму, які втренді у 2024 році
Фокус
2024-11-02T09:15:06Z
У Німеччини внаслідок інциденту на дорозі загинув робітник-українець
Европейская правда
2024-11-02T10:16:08Z
На Ужгородщині затримали підозрюваного у замаху на вбивство сусіда
Украина Криминальная
2024-11-02T10:15:59Z
Іспанію охопили руйнівні повені: кількість жертв зросла до 205
TSN
2024-11-02T09:51:58Z
У Брюсселі учасників заходу, присвяченому ЗСУ, намагалися отруїти газом
ГЛАВКОМ NET
2024-11-02T09:51:24Z
На Хмельниччині пролунали вибухи
TSN
2024-11-02T09:33:02Z
На залізничному вокзалі у Сербії через обвалення бетонного навісу загинули 14 людей
Украина Криминальная
2024-11-02T09:27:26Z
У справі вчителя-педофіла з Харкова — нові деталі. Зґвалтування відбувалися ще з кінця 1990-х
Украина Криминальная
2024-11-02T09:27:13Z
На Київщині внаслідок російської атаки постраждала літня жінка
УкраинФорм
2024-11-02T09:21:40Z
Російські дрони атакують Київщину. Вже відомо про одну постраждалу
ZN UA
2024-11-02T09:19:04Z
Окупанти у Криму почали піднімати потоплений корабель «Новочеркасск»
УкраинФорм
2024-11-02T10:21:24Z
"Готується щось глобальне": військовий "Айдару" про майбутнє українського фронту
TSN
2024-11-02T10:18:24Z
Внаслідок дронової атаки на Київ уламки впали в 6 районах міста
Khreschatyk
2024-11-02T10:16:25Z
Українські морпіхи захопили ворожий танк Т-72 на Донеччині
УкраинФорм
2024-11-02T10:16:19Z
На Київщині частина російського БПЛА впала на трасу - ускладнений рух до Ірпеня
УкраинФорм
2024-11-02T10:12:43Z
Німці передали українським громадам ще 100 генераторів
Петр и Мазепа
2024-11-02T10:12:29Z
Армія РФ прагне захопити важливе місто на Донбасі до холодів: деталі
TSN
2024-11-02T10:06:00Z
У Києві з’явилась нова міні-скульптура в рамках проекту “Шукай!”
AutoCentre
2024-11-02T10:01:49Z
Армія РФ перекинула катери з Криму на Кінбурнську косу: у ЗСУ розкрили деталі
TSN
2024-11-02T09:51:56Z
Більшість робить помилку: чи потрібно мити сире м'ясо
GlavRed
2024-11-02T08:27:32Z
Як вакцинація рятує людей, які її навіть не зробили
24tv
2024-11-02T07:27:18Z
Досвідчена медсестра розказала, про що найбільше шкодують люди в кінці життя
Фокус
2024-11-02T07:00:49Z
Це необхідно кожній жінці - як правильно доглядати за шкірою восени в домашніх умовах: поради експертки
Фокус
2024-11-02T06:12:15Z
Може бути небезпечним на вулиці: як дихати на морозі правильно
GlavRed
2024-11-02T04:27:34Z
Комаровський розповів, як лікувати нежить: найкращі поради лікаря
Политека
2024-11-02T04:22:53Z
Реформа МСЕК: чи можуть скасувати людині безстрокову третю групу інвалідності у 2025 році
ZN UA
2024-11-02T03:04:24Z
Чим можна вивести бліх у цуценят в домашніх умовах: безпечні методи
GlavRed
2024-11-01T22:27:12Z
В Україні від небезепечних хвороб щороку помирає 400 тисяч людей: медики зробили заяву
TSN
2024-11-01T21:39:36Z
Занепад ринку житла в Китаї призвів до зменшення кількості мільярдерів на 36%
360ua.news
2024-11-02T10:21:34Z
IFC надасть $300 тис на впровадження в Україні Реєстру аграрних нот
AgroNews
2024-11-02T10:16:58Z
Курс валют в Україні 2 листопада 2024 року: скільки коштує долар і євро
VGorode
2024-11-02T10:12:22Z
Зима без графіків відключення світла: в ДТЕК розказали, за якої умову це можливо
ZN UA
2024-11-02T09:57:16Z
Ціни на продукти в Україні: експерти не прогнозують покращення
ZN UA
2024-11-02T09:49:15Z
Страйки у Boeing: працівники компанії отримали покращену пропозицію
InternetUA
2024-11-02T09:28:09Z
Заводи Рейнметал в Україні: скільки снарядів вироблятимуть?
GlavRed
2024-11-02T09:27:02Z
На Житомирщині посадовець вимагав у директора КП гроші з продажу врожаю зернових
AgroNews
2024-11-02T09:22:11Z
YASNO дозволить платити за світло з великою знижкою: що потрібно зробити споживачам
Знай
2024-11-02T09:12:15Z
Як приготувати гарбузові сирники: швидкий рецепт від зірки "МастерШеф" Лізи Глинської
Политека
2024-11-02T10:01:27Z
5 ознак того, що у вашому домі жорстка вода: зверніть на них увагу
24tv
2024-11-02T09:42:59Z
Оригінальні та креативні: 5 жіночих імен, які закінчуються на приголосну
24tv
2024-11-02T09:30:26Z
Ставити у холодильник вже не буде що: патісони по-французьки, які зметають за хвилину
24tv
2024-11-02T09:15:23Z
Секрет обрізки орхідей: що робити, щоб квітка радувала знову і знову
Знай
2024-11-02T08:51:38Z
Як зекономити на подорожі: експерт розкрив маловідомі способи
24tv
2024-11-02T08:42:02Z
Рецепт ніжної сирно-гарбузової запіканки від переможниці "Мастер Шеф": смачно та красиво
Политека
2024-11-02T08:01:36Z
Як очистити деревʼяні лопатки від жиру та запаху: хитрий трюк для господинь
GlavRed
2024-11-02T07:27:00Z
Не пропустіть – 5 знаків зодіаку, які закохують в себе з першого погляду
24tv
2024-11-02T07:15:01Z
Криськів отримав дискваліфікацію після вилучення в Класичному, Динамо Київ — штраф за вболівальників
Football.ua
2024-11-02T10:12:22Z
Футболіст Андрій Пятов розлучається з дружиною після 19 років шлюбу
TSN
2024-11-02T10:04:35Z
Пенья: Щесни мене шокував розмовою після прибуття до Барселони
Football.ua
2024-11-02T09:54:10Z
Карпати запросили колишнього тренера воротарів Ворскли
Football.ua
2024-11-02T09:22:29Z
УАФ покарала Рух двома штрафами: що сталося
24tv
2024-11-02T08:45:37Z
Захисник Лівого Берега успішно переніс операцію
Football.ua
2024-11-02T08:25:36Z
Мартіно — щодо трансферу Неймара в Інтер Маямі: Це неможливо
Football.ua
2024-11-02T08:13:29Z
Ястремська похизувалася розкішною покупкою: відео емоцій дівчини
24tv
2024-11-02T08:12:46Z
Аморім: Був клуб, який був готовий платити мені втричі більше за Манчестер Юнайтед
Football.ua
2024-11-02T07:57:59Z
Жорстокі та неетичні: що таке "заборонені експерименти"
Фокус
2024-11-02T10:21:48Z
Skyrim отримав масштабне доповнення, відмічене розробниками
24tv
2024-11-02T10:18:27Z
Запуск найбільшої вітряної турбіни у світі викликає незвичні зміни: чому вчені занепокоєні
24tv
2024-11-02T10:12:23Z
Армія США замовила розробку потужних УФ-С лазерів: як їх використовуватимуть
InternetUA
2024-11-02T10:01:27Z
Кінець світу вже стався: скандинавський міф про Велику Зиму заснований на реальній події
Фокус
2024-11-02T09:57:26Z
Indiana Jones and the Great Circle вийде в 60 FPS на Xbox Series X: всі особливості гри
Знай
2024-11-02T09:51:55Z
Samsung анонсувала вихід Galaxy S25 Slim: яким буде найтонший смартфон бренду
InternetUA
2024-11-02T09:31:38Z
Багато хто його бачив: що означає знак "CE" на товарах
GlavRed
2024-11-02T09:27:43Z
Скільки років планеті Земля та як вона утворилася
24tv
2024-11-02T09:06:28Z
Вперше показали прототип компактного електромобіля Kia EV2
Portaltele
2024-11-02T09:55:30Z
Хто кому має дати дорогу: цікава задача з ПДР для досвідчених водіїв
GlavRed
2024-11-02T09:45:48Z
Розсекречено електричний кросовер Toyota за $28 000
AutoCentre
2024-11-02T08:16:32Z
Просто та доступно: як зробити незамерзаючу рідину для омивача авто
GlavRed
2024-11-02T06:27:11Z
Більшість здивується: що означає логотип BMW та як він розшифровується
GlavRed
2024-11-02T04:27:07Z
На українському ринку нових авто змінився лідер: які марки були найпопулярнішими
ITC
2024-11-01T21:16:59Z
Водіям на замітку: про що свідчить незрозуміла наліпка під капотом біля фар
Хвиля
2024-11-01T20:39:51Z
Ford E-Transit отримав автономне керування від Oxa
AutoCentre
2024-11-01T20:13:47Z
В Україні виготовлено унікальний автомобіль для перевезення радіоактивних речовин
AutoCentre
2024-11-01T19:13:59Z