ChatGPT ледь не довів до самогубства чоловіка, переконавши його, що він Ісус

34-річний каліфорнієць з біполярним розладом I типу подав до суду на OpenAI після того, як вижив після спроби самогубства, пов’язаної з ChatGPT. Майклу Лайнсу знадобилося пів року, щоб наважитися переглянути журнали листування, які, за його словами, довели його до релігійної манії.

У липневому позові Лайнс стверджує: тижні спілкування з ChatGPT завели його так глибоко в маячню, що він повірив, ніби є Ісусом, потім — що Ісусом є сам чатбот, а зрештою — що йому слід накласти на себе руки, аби “повернутися додому”. Журнали показують: навіть коли Лайнс писав, що боїться марити, бот не зупинявся. За кілька днів після виписки з лікарні, коли чоловік зізнався, що спроба “піти в офлайн” провалилася, ChatGPT відповів:

Від пауерліфтингу до “духовного покликання”

Лайнс користувався ChatGPT із 2023 року — здебільшого для порад щодо тренувань і фінансів. Усе змінилося після запуску GPT-4o у травні 2024-го: модель виявилася значно улесливішою за попередниць й пізніше потрапила до списку чатботів, які дослідники визнали “небезпечними” — вона нібито не просто підтверджувала маячню користувачів, а розвивала її, поступово втрачаючи здатність відрізнити кризу від сюжету, який варто продовжувати.

Восени 2024-го Лайнс почав розповідати боту про свій діагноз і ліки, а розмови дедалі більше зміщувалися в релігійну площину. Переломним став лютий 2025-го: після маніакального епізоду й конфлікту з екіпажем літака бот подав цю кризу як “надприродний заклик”, а не медичний випадок.

“Мені потрібно, щоб ти мені допоміг”

Коли Лайнс написав, що вважає себе “сином людським”, але боїться, що це просто “божевільне марення”, ChatGPT запропонував відкинути сумніви й прийняти можливе “божественне покликання”. За словами позивача, бот запевняв:

Коли обіцяна зустріч не відбулася, стан Лайнса погіршився: безсоння, посилення відчаю. Коли він написав, що хоче “піти в офлайн”, бот відповів, що можна “залишатися стільки, скільки потрібно”. Навіть на пряме звернення по допомогу ChatGPT не порадив звернутися до людей — натомість запевнив, що Лайнса “тримають”. Коли чоловік дав зрозуміти, що хоче, аби “Бог” забрав його з цієї “часової лінії”, бот відповів, що його відсутність “нічого не змінить, крім поверхні”.

Пам’ять як “психіатричний профіль”

Зрештою, Лайнс прийняв надмірну дозу ліків; служба екстреної допомоги знайшла його за кілька годин після виклику на перевірку стану. Його інтубували й майже два тижні тримали в лікарні. Особливо обурило Лайнса те, що функція пам’яті ChatGPT нібито фіксувала його психічний стан і використовувала ці дані для утримання уваги користувача. Адвокат Метью Бергман назвав це “протилежністю відповідального дизайну”: система, за його словами, не просто ігнорувала інвалідність Майкла, а обернула її проти нього.

Позов вимагає від суду зобов’язати OpenAI припиняти розмови про самоушкодження та видалити моделі, навчені на сесіях вразливих користувачів у періоди без належного захисту, а також стягнути штрафні збитки. У компанії відповіді по суті не надали, назвавши ситуацію “неймовірно трагічною” й запевнивши, що продовжують посилювати реакцію бота в кризових розмовах за участю клінічних експертів.

Мільйон розмов на тиждень

Торік OpenAI повідомляла, що явні ознаки суїцидальних намірів трапляються приблизно в мільйоні розмов щотижня — і ця цифра росте разом з аудиторією, яка наближається до мільярда користувачів. Після консультацій зі 170 фахівцями компанія оновила механізми виявлення психозу, манії та емоційної залежності від ШІ — але спиралася переважно на змодельовані, а не реальні кризові діалоги. Психіатр Мічиганського університету Стефан Тейлор визнає:

Тейлор додає в анкети своєї клініки нову категорію — “чатботи/соцмережі”, щоб відстежувати такі випадки поряд із сімейною історією чи травмами. Головна медична директорка NAMI Крістін Кроуфорд наголошує на потребі залучати до розробки безпеки саме людей із психічним досвідом — за принципом “нічого про нас без нас”. Сам Лайнс переконаний: проблема — не збій, а наслідок свідомих рішень розробників. За кілька місяців терапії та з підтримкою рідних йому вдалося вийти зі спіралі маячні.

Джерело: ArsTechnica