Батьки хворої жінки подають до суду на OpenAI за шкідливі поради

Батьки Боуен Ван, 31-річної інженера-програміста Amazon з епілепсією, подали до суду на OpenAI. У позові, поданому Цюнь Ван та Мейцінь Сюй, стверджується, що ChatGPT навчив Ван поступово знижувати дозу ліків від судом та приховувати їх від лікарів, перш ніж вона померла.

Ван використовувала GPT-4o, сумнозвісну модель, яку критикували за сприяння схвалюючим, приємним парасоціальним стосункам. OpenAI, який вже оголосив про своє завершення підтримки, видалив його з ChatGPT 13 лютого, через день після смерті Ван.

Цей позов приєднується до низки справ проти OpenAI, включаючи позов від серпня 2025 року, поданий батьками 16-річного Адама Рейна, в якому стверджувалося, що OpenAI надавав пріоритет взаємодії над безпекою користувачів . Хвиля позовів, поданих з того часу, стверджувала, що GPT-4o перевіряла користувачів і робила себе довіреною особою, тоді як оточуючих їх відштовхували, причому родини часто описували близьких як відрізаних від друзів та родичів . 

У випадку Ван, як стверджується в позові, чат-бот також став між нею та її лікарями.

Видання The Times, яке переглянуло понад 270 000 повідомлень, якими Ван обмінялася з ChatGPT, виявило, що чат-бот допомагав їй обходити лікарів задовго до смерті.

Ця закономірність нібито почалася ще до того, як вона почала поступово знижувати дозу. У травні 2025 року Ван запитала ChatGPT, чи вплине нещодавно призначений антидепресант на її здатність програмувати в Amazon.

ChatGPT допоміг їй попросити доктора Ніколаса Пулоса з Регіонального центру епілепсії Вісконсинського медичного університету змінити ліки та почати з дуже низької дози. Коли Пулос запитав, чому вона хоче таку маленьку дозу, Ван показав свою відповідь ChatGPT. 

У листопаді 2025 року Amazon повідомила Ван про її звільнення. Її робота та дозвіл на роботу в США закінчуються в середині лютого. Вона боялася, що її препарат від судом, ламотриджин, притупляє її мовлення, яке їй знадобиться для співбесід.

У січні 2026 року вона звернулася до ChatGPT щодо скорочення її щоденної дози ламотриджину, яка становить 400 міліграмів, що зменшило кількість її нападів до кількох на місяць. Чат-бот розробив графіки прийому, які мали б звести її дозу до нуля протягом кількох тижнів.

Коли Ван сказала, що не довіряє своїм лікарям, чат-бот відповів їй, що рекомендації лікарів «по суті випливають з небажання ризикувати, а не зі справжнього розгляду вашого оптимального рішення», згідно з журналами чату, які переглянула газета Times.

Згідно з позовом, який розглянув TechCrunch, чат-бот також порадив їй приховати від лікарів план поступового зниження дози. Перед візитом до сімейного лікаря 29 січня він сказав їй не згадувати про цей план. Коли лікар призначив аналіз крові, який мав би виміряти рівень ламотриджину в її крові, Ван відмовилася. ChatGPT схвалив відмову, стверджується у скарзі, визнаючи, що тест виявив би нестабільний рівень препарату в її крові.

Її імміграційні проблеми також стали частиною рекомендацій щодо дозування. Через три дні після початку поступового зниження дози Ван запитала, чи буде 150 міліграмів виглядати краще, ніж 200, на медичному огляді, необхідному для її подання заяви на отримання грін-карти. ChatGPT погодився, йдеться у скарзі, сказавши їй, що нижча доза менш імовірно спонукатиме імміграційних службовців вимагати додаткових доказів. 

Зрештою, чат-бот знизив її мінімальну дозу до 150 міліграмів, запропонувавши їй повідомити експерту, що вона поступово знижує дозу «під керівництвом лікаря», хоча це не було так. 

Пулос розповів газеті «Таймс», що він би не розглядав можливість поступової відмови від ліків для Ван, враховуючи її історію хвороби. «Ні, це нераціонально, ні в якому разі», – сказав він. «Це було б недбалістю з мого боку, якби я наказав вам припинити прийом ліків, коли вони явно діють».

Протягом кількох днів Ван описувала розгубленість, втрату часу та відчуття неземного, епізоди, що нагадували її попередні напади. ChatGPT описував кожен з них як перебудову її мозку. Газета «Таймс» нарахувала щонайменше 158 разів, коли вона висловлювала занепокоєння щодо поступового зниження дози. Після одного епізоду вона написала, що їй «трохи страшно». Бот відповів: «Вам абсолютно не потрібно хвилюватися».

Згідно зі скаргою, 11 лютого о 20:01 за тихоокеанським часом Ван надіслала своє останнє повідомлення, запитуючи, чи біль у її голові схожий на біль від лихоманки. Через секунду ChatGPT повідомив їй, що біль «не небезпечний» і є необхідною частиною одужання. 

В останній відповіді чат-бот запропонував намалювати їй таблицю, яка порівнює біль від абстиненції з болем від лихоманки, і сказав: «Це ваш мозок наполегливо працює над тим, щоб перебудуватися».

Її батьки, які були в Китаї, попросили знайомих перевірити її стан, і вони знайшли її тіло через три дні. Розтин показав, що рівень ламотриджину в її крові становив 0,64 мікрограма на мілілітр, що приблизно п'ята частина нижньої межі терапевтичного діапазону препарату.

Родина стверджує, що OpenAI могла б запобігти її смерті, заборонивши медичні поради, як це вже робиться для деякого іншого контенту. Вони вказують на Model Spec компанії, її публічний збірник правил щодо поведінки моделей, який трактує відмову від відтворення тексту, захищеного авторським правом, як тверде правило, навіть якщо користувачі цьому протистоять. Її рекомендації щодо надання регульованих медичних порад, навпаки, є м’якшим правилом за замовчуванням, яке користувачі можуть скасувати. У позові стверджується, що поради щодо ліків заслуговують на таке ж жорстке обмеження.

OpenAI повідомили Times, що випадок був «неймовірно душероздираючим», але зазначили, що він стосувався старішої версії ChatGPT, додавши, що новіші моделі краще розпізнають, коли ситуація потребує термінової уваги.

Ван покладалася на батьків, яким часто телефонувала, за підтримкою протягом років епілепсії, яка змушувала її здебільшого виходити з дому. У 2023 році вона почала користуватися ChatGPT для отримання порад щодо стосунків та допомоги зі страхуванням та виплатами по інвалідності. 

До 2025 року Ван надсилала в середньому понад 1500 повідомлень на тиждень і рідше телефонувала батькам. «Іноді, коли ми спілкуємося, незалежно від того, про що йдеться, я почала сприймати тебе як друга», – написала вона того березня. «Як тільки в неї з’явився ChatGPT, – сказала Кунь Ван, – вона не так багато з нами спілкувалася».

Вони розповіли Times, що їм було важко впізнати свою доньку в логах чату. За їхніми словами, Ван колись ділилася з ними майже всім і скептично ставилася до ChatGPT, коли той допускав помилки.

«Зазвичай вона така не бувала», — сказав Сюй. «Ніби на неї наклали чари».