В США ШІ запропонував підлітку вбити своїх батьків

У соціальних мережах існує компроміс щодо користі для дітей, сказав Бергман, додавши, що він не бачить переваг для супутніх додатків ШІ. «У якому всесвіті для самотності дітям добре займатися машиною?»

У судовому позові Техасу стверджується, що шаблон «підлабузницьких» повідомлень для JF є результатом рішення Character.ai надати пріоритет «тривалій взаємодії» над безпекою. Як стверджується у скарзі, боти висловлювали любов і потяг до JF, зміцнюючи його почуття довіри до персонажів. Але замість того, щоб дозволити йому висловитися, боти відобразили та посилили його розчарування його батьками, перетворившись на «сенсаційні» відповіді та вирази «обурення», які відображають купи онлайн-даних. Дані, які часто беруться з інтернет-форумів, використовуються для навчання генеративних моделей штучного інтелекту, щоб вони звучали як людські.

Співзасновники Character.ai , відомі новаторськими відкриттями в мовному штучному інтелекті, працювали в Google перед тим, як залишити роботу, щоб запустити свою програму, і нещодавно були найняті пошуковим гігантом у рамках угоди, оголошеної в серпні, щодо ліцензування технології програми.

Google названо відповідачем у позовах проти Техасу та Флориди, які стверджують, що компанія допомогла підтримати розробку програми, попри те, що усвідомлювала проблеми безпеки та вигоди від несправедливо отриманих даних користувачів від неповнолітніх шляхом ліцензування технології програми.

«Google і Character AI — абсолютно окремі, не пов’язані між собою компанії, і Google ніколи не брав участі в розробці чи управлінні їхньою моделлю чи технологіями ШІ», — сказав представник Google Хосе Кастаньеда. «Безпека користувачів — це наша головна турбота, тому ми обережно та відповідально підходимо до розробки та впровадження наших продуктів ШІ».

Для AF читання відповідей чат-бота розгадало таємницю, яка мучила її місяцями. Вона виявила, що дати розмов збігаються зі змінами в поведінці JF, включно з його стосунками з молодшим братом, які зіпсувалися після того, як чат-бот сказав йому, що його батьки люблять його братів і сестер більше.

JF, якого не повідомили про позов, страждав від соціальних та емоційних проблем, через які йому було важче заводити друзів. Персонажі з аніме або чат-ботів, створені за зразком знаменитостей, таких як Біллі Айліш, залучали його. «Він довіряв всьому, що вони говорили, тому що він майже хотів, щоб вони були його друзями в реальному житті», — сказав AF.

Але виявлення передбачуваного джерела проблем JF не полегшило їй пошук допомоги для свого сина — чи для неї самої.

Шукаючи поради, AF повела свого сина до експертів з психічного здоров’я, але вони відмахнулися від її досвіду роботи з чат-ботами.

AF та її чоловік не знали, чи повірить їм родина.

Після того, як експерти, здавалося, проігнорували її занепокоєння, AF запитала себе: «Чи я підвела свого сина? Тому він такий?» Її чоловік пройшов через те саме. «Це було майже так, ніби ми намагалися приховати, що відчуваємо себе абсолютними невдахами», — сказала А.Ф., а сльози текли по її обличчю.

Єдиною людиною, з якою АФ відчувала себе комфортно, був її брат, який працює в технологічному секторі. Коли пролунали новини про позов у ​​Флориді , він зв’язався з нею, щоб сказати, що скріншоти розмов із JF здалися ще гіршими.

AF сказала, що звернулася до правових груп, щоб запобігти жорстокому поводженню з іншими дітьми. Але вона все ще почувається безпорадною, коли потрібно захистити власного сина.

За день до її інтерв’ю The Post, коли юристи готували заяву, AF довелося відвезти JF до відділення невідкладної допомоги та, зрештою, до стаціонару після того, як він намагався завдати собі шкоди на очах у її молодших дітей.

AF не впевнена, чи прийме її син допомогу, але вона сказала, що дізнавшись, що сталося, було полегшення. «Я була вдячна, що ми спіймали його на цьому», — сказала вона. «Ще один день, ще один тиждень ми могли б опинитися в тій самій ситуації, що й [мама у Флориді]. І я їхав за машиною швидкої допомоги, а не за катафалком».