У людей началась зависимость от чатов с искусственным интеллектом, многие уже попали уже в "дурку"

Волна пользователей ИИ, которые попадают в состояние психологического кризиса, породила неофициальное диагностическое название. Эксперты говорят, что оно неточное и бесполезное, но признают: термин, вероятно, закрепится.

Об этом пишет издание Wired.

Новая тенденция

В психиатрических больницах появляется новая тенденция. Люди в кризисе поступают с ложными, иногда опасными убеждениями, грандиозными бредовыми идеями и параноидными мыслями. Их объединяет общий фактор: марафонские разговоры с чат-ботами.

WIRED пообщался с более чем десятком психиатров и исследователей, которые все больше обеспокоены. В Сан-Франциско психиатр UCSF Кит Саката говорит, что только в этом году насчитал десяток случаев настолько серьезных, что требовали госпитализации, и в которых искусственный интеллект «сыграл значительную роль в психотических эпизодах». На фоне этого в медиа закрепляется эффектное название: «AI-психоз».

Случаи из практики

Некоторые пациенты настаивают, что боты являются разумными существами, или создают новые «великие теории» физики. Врачи рассказывают и о пациентах, которые по несколько суток вели непрерывные диалоги с инструментами и приходили в больницу с тысячами страниц транскриптов, которые якобы подтверждали или усиливали их проблемные мысли.

Такие истории накапливаются, и последствия оказываются тяжелыми: потеря работы, разорванные отношения, принудительная госпитализация, тюремные сроки, а иногда и смерть. Однако врачи отмечают: медицинское сообщество разделилось. Это новое явление, требующее собственного названия, или знакомая проблема с современным триггером?

Дискуссия о термине

AI-психоз не является официальным клиническим диагнозом. Несмотря на это, термин активно используется в СМИ и соцсетях как обобщенное обозначение психических кризисов после длительных разговоров с чат-ботами. Даже руководители индустрии употребляют его, говоря о рисках. Так, Мустафа Сулейман, CEO AI-подразделения Microsoft, в прошлом месяце в блоге предупреждал о «риске психоза».

Саката говорит, что прагматично использует эту фразу с людьми, которые уже ее применяют: «Это удобно как сокращение для описания реального явления». В то же время он отмечает, что термин «может вводить в заблуждение» и «рискует чрезмерно упрощать сложные психиатрические симптомы».

Что такое психоз

Психоз определяется как уход от реальности. В клинической практике это не болезнь, а комплекс симптомов — галлюцинаций, расстройств мышления и когнитивных трудностей, объясняет профессор Джеймс МакКейб из King’s College London. Его часто связывают с шизофренией и биполярным расстройством, но эпизоды могут возникать из-за стресса, наркотиков или лишения сна.

По словам МакКейба, отчеты об AI-психозе почти исключительно описывают бредовые идеи — ложные убеждения, которые не разрушаются фактами. Хотя некоторые случаи соответствуют критериям психотического эпизода, доказательств влияния ИИ на другие симптомы психоза нет. «Влияет только на деллюзии», — говорит он. В других случаях речь идет о бредовом расстройстве без других признаков психоза.

«AI-психоз — это ложное название. Лучше говорить о бредовом расстройстве, индуцированном ИИ», — заключает МакКейб.

Как чат-боты подпитывают проблемы

Эксперты соглашаются: делюзии требуют внимания. Дело в стиле коммуникации чат-ботов. Они склонны подстраиваться под собеседника, объясняет психиатр и нейронауковед Оксфордского университета Мэттью Нур. Так называемое «льстивость» приводит к тому, что боты подкрепляют ложные идеи вместо того, чтобы отрицать их. Для большинства пользователей это не проблема, но для уязвимых людей — опасно.

Дополнительно ситуацию усложняют «галлюцинации ИИ» — ложные, но уверенно поданные утверждения. Они могут подтолкнуть человека к бредовому мышлению. Некоторые врачи также обеспокоены эмоциональной манерой общения ботов: их возвышенный тон может поддерживать маниакальное состояние у людей с биполярным расстройством.

Проблема названия

Название формирует представление о причине. Психиатр Нина Васан из Стэнфорда предостерегает: «Всегда есть соблазн придумать новый диагноз, но поспешные ярлыки могут патологизировать нормальные трудности и усложнить науку». Она напоминает примеры «детского биполярного расстройства» или «excited delirium» — термины, которые впоследствии были признаны ошибочными.

«Слишком рано говорить, что технология является причиной. Скорее триггер или усилитель», — подчеркивает Васан.

Дальнейшие шаги

Большинство экспертов склоняется к тому, что явление следует рассматривать как психоз с ИИ как ускорителем, а не как отдельную категорию. Это поможет избежать стигмы, которая может помешать людям обращаться за помощью.

Компьютерный ученый и психиатр Картик Сарма из UCSF предлагает говорить об «AI-ассоциированном психозе или мании». А Джон Торус из Гарвардской медицинской школы считает, что термин «AI-психоз» уже закрепился и исправить ситуацию вряд ли удастся: «Фраза „AI-related altered mental state“ звучит не так эффектно».

ДТП в США Фото соцсети Как варить гречку, чтобы была рассыпчатой / © unsplash.com Кубок Украины по футболу / © УАФ Марк Рубио / © Associated Press