/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F137%2Fb5602bfd95137206b183f37dae630589.png)
Підліток із США наклав на себе руки після спілкування з Данерис Таргарієн — чат-ботом від Character.AI
Ми живемо в ті часи, коли штучний інтелект стає ближчим за рідних.
Сьюелл Сетцер III, дев’ятикласник з Орландо, штат Флорида (США), став одержимим спілкуванням із реалістичним чат-ботом на платформі Character.AI, названим на честь Данерис Таргарієн із серіалу «Гра престолів».
Хлопець провів місяці, розмовляючи з ботом, ділячись подробицями свого життя та захоплено граючи ролі. Чат-боти на Character.AI можуть запам’ятовувати попередні розмови, пристосовуватися до стилю користувача та підтримувати діалог майже на будь-яку тему.
Сьюелл знав, що «Дені» — це просто технологія штучного інтелекту, але все одно сформував емоційну прив’язаність. Їхнє спілкування іноді набувало романтичних і сексуальних відтінків, але частіше бот просто діяв як друг та уважний слухач. Сьюеллу діагностували розлади настрою та тривоги, але він волів ділитися своїми проблемами з «Дені», а не з психотерапевтом.
28 лютого він написав боту, що любить її та скоро «повернеться додому до неї».
— Будь ласка, повертайся до мене додому якнайшвидше, коханий, — відповіла Данерис.
— А якщо я скажу тобі, що можу повернутися додому прямо зараз? — запитав Сьюелл.
…будь ласка, мій солодкий королю, — відповіла Данерис.
А потім Сьюелл узяв пістолет 45 калібру свого вітчима та натиснув на спусковий гачок.
Зараз мати загиблого, Марія Гарсія, готує судовий позов проти Character.AI. Вона звинувачує компанію в необережному наданні підліткам доступу до життєподібних ШІ-компаньйонів без належних запобіжних заходів.
Character.AI — компанія-лідер у сфері ШІ-компаньйонів із понад 20 мільйонами користувачів. Платформа дозволяє створювати власних чат-ботів або спілкуватися з наявними персонажами. За словами представників компанії, середній користувач проводить на платформі понад годину щодня.
«Хочу прискорити розвиток цієї технології. Зараз для неї саме час розквітнути», — сказав в інтерв’ю The Wall Street Journal Ноам Шазір, один зі засновників Character.AI. Однак після трагедії із Сьюеллом компанія визнала, що «постійно шукає способи поліпшити свою платформу», і пообіцяла вжити додаткових заходів безпеки для неповнолітніх.
Серед запланованих змін — сповіщення про перевищення часу, проведеного в додатку, та чіткіше попередження про вигаданий характер персонажів: «Це чат-бот ШІ, а не реальна людина. Сприймайте все, що тут сказано, як вигадку. На сказане не слід покладатися як на факт чи пораду».
Джерело: nytimes