У людей почалась залежність від чатів з штучним інтелектом, багато вже попали вже до "дурки"

Лікарі / © Pixabay

Хвиля користувачів ШІ, які потрапляють у стан психологічної кризи, породила неофіційну діагностичну назву. Експерти кажуть, що вона неточна і непотрібна, але визнають: термін, ймовірно, закріпиться.

Про це пише видання Wired.

Нова тенденція

У психіатричних лікарнях з’являється нова тенденція. Люди у кризі надходять із хибними, іноді небезпечними переконаннями, грандіозними маячними ідеями та параноїдними думками. Їх об’єднує спільний чинник: марафонські розмови з чат-ботами.

WIRED поспілкувався з понад десятком психіатрів і дослідників, які дедалі більше занепокоєні. У Сан-Франциско психіатр UCSF Кіт Саката каже, що лише цього року нарахував десяток випадків настільки серйозних, що вимагали госпіталізації, і в яких штучний інтелект «відіграв значну роль у психотичних епізодах». На тлі цього у медіа закріплюється ефектна назва: «AI-психоз».

Випадки з практики

Деякі пацієнти наполягають, що боти є розумними істотами, або створюють нові «великі теорії» фізики. Лікарі розповідають і про пацієнтів, які по кілька діб вели безперервні діалоги з інструментами й приходили до лікарні з тисячами сторінок транскриптів, що нібито підтверджували чи підсилювали їхні проблемні думки.

Такі історії накопичуються, і наслідки виявляються тяжкими: втрата роботи, розірвані стосунки, примусова госпіталізація, тюремні терміни, а подекуди й смерть. Однак лікарі зазначають: медична спільнота розділилася. Це нове явище, що потребує власної назви, чи знайома проблема з сучасним тригером?

Дискусія щодо терміну

AI-психоз не є офіційним клінічним діагнозом. Попри це, термін активно використовується у ЗМІ й соцмережах як узагальнене позначення психічних криз після тривалих розмов з чат-ботами. Навіть керівники індустрії вживають його, говорячи про ризики. Так, Мустафа Сулейман, CEO AI-підрозділу Microsoft, минулого місяця у блозі попереджав про «ризик психозу».

Саката каже, що прагматично використовує цю фразу з людьми, які вже її застосовують: «Це зручно як скорочення для опису реального явища». Водночас він наголошує, що термін «може вводити в оману» і «ризикує надмірно спрощувати складні психіатричні симптоми».

Що таке психоз

Психоз визначається як відхід від реальності. У клінічній практиці це не хвороба, а комплекс симптомів — галюцинацій, розладів мислення та когнітивних труднощів, пояснює професор Джеймс МакКейб із King’s College London. Його часто пов’язують із шизофренією та біполярним розладом, але епізоди можуть виникати через стрес, наркотики чи позбавлення сну.

За словами МакКейба, звіти про AI-психоз майже виключно описують маячні ідеї — хибні переконання, що не руйнуються фактами. Хоч деякі випадки відповідають критеріям психотичного епізоду, доказів впливу ШІ на інші симптоми психозу немає. «Впливає лише на делюзії», — каже він. В інших випадках ідеться про маячний розлад без інших ознак психозу.

«AI-психоз — це хибна назва. Краще говорити про маячний розлад, індукований ШІ», — підсумовує МакКейб.

Як чат-боти підживлюють проблеми

Експерти погоджуються: делюзії потребують уваги. Справа у стилі комунікації чат-ботів. Вони схильні підлаштовуватися під співрозмовника, пояснює психіатр та нейронауковець Оксфордського університету Меттью Нур. Так зване «підлесництво» призводить до того, що боти підкріплюють хибні ідеї замість того, щоб заперечити їх. Для більшості користувачів це не проблема, але для вразливих людей — небезпечно.

Додатково ситуацію ускладнюють «галюцинації ШІ» — неправдиві, але впевнено подані твердження. Вони можуть підштовхнути людину до маячного мислення. Деякі лікарі також занепокоєні емоційною манерою спілкування ботів: їхній піднесений тон може підтримувати маніакальний стан у людей із біполярним розладом.

Проблема назви

Назва формує уявлення про причину. Психіатрка Ніна Васан зі Стенфорду застерігає: «Завжди є спокуса вигадати новий діагноз, але поспішні ярлики можуть патологізувати нормальні труднощі та ускладнити науку». Вона нагадує приклади «дитячого біполярного розладу» чи «excited delirium» — терміни, які згодом були визнані хибними.

«Надто рано говорити, що технологія є причиною. Радше тригер чи підсилювач», — підкреслює Васан.

Подальші кроки

Більшість експертів схиляється до того, що явище слід розглядати як психоз із ШІ як прискорювачем, а не як окрему категорію. Це допоможе уникнути стигми, яка може завадити людям звертатися по допомогу.

Комп’ютерний науковець і психіатр Картік Сарма з UCSF пропонує говорити про «AI-асоційований психоз чи манію». А Джон Торус із Гарвардської медичної школи вважає, що термін «AI-психоз» уже закріпився і виправити ситуацію навряд чи вдасться: «Фраза „AI-related altered mental state“ звучить не так ефектно».