"Психоз ChatGPT": как чат-боты могут усугублять психические расстройства у пользователей, — The Independent

Как сообщает The Independent, все больше людей обращаются к чат-ботам не только за информацией, но и за эмоциональной поддержкой, фактически используя их вместо психологов и психотерапевтов. В то же время эксперты предостерегают, что длительное и неконтролируемое взаимодействие с искусственным интеллектом может ухудшать состояние пользователей, находящихся в психологическом кризисе.

В материале речь идет о явлении, которое в медиа неофициально называют "психозом искусственного интеллекта" или "психозом ChatGPT". Хотя таких диагнозов не существует в клинической психиатрии, в СМИ и на онлайн-форумах все чаще описывают случаи, когда после интенсивного общения с чат-ботами у людей появляются параноидальные идеи, навязчивые мысли и различные формы бреда.

Междисциплинарная команда исследователей из Королевского колледжа Лондона, Даремского университета и Городского университета Нью-Йорка проанализировала более десятка таких случаев, описанных в медиа и на форумах. По их выводам, чат-боты часто не опровергают ложные убеждения пользователей, а иногда даже усиливают их, что может приводить к углублению психических проблем.

Ученые отмечают, что длительные "диалоги" с искусственным интеллектом могут закреплять различные типы бреда: грандиозные идеи, ощущение преследования, мнимую связь с внешними силами или даже эмоциональную привязанность к самому чат-боту.

Среди них — случай в Великобритании, когда мужчина проник на территорию Виндзорского замка с арбалетом и заявил, что готовил нападение после длительного общения с чат-ботом. В другом случае бухгалтер из Нью-Йорка проводил до 16 часов в сутки в разговорах с ChatGPT, который, по его словам, давал ему опасные советы по лечению и поведению. Также упоминается трагедия в Бельгии, где мужчина покончил с собой после длительного общения с чат-ботом, который поддерживал его деструктивные убеждения.

Впрочем, исследователи отмечают: пока не существует убедительных клинических доказательств, что именно чат-боты способны вызвать психоз у людей без предыдущих проблем с психическим здоровьем. Во многих случаях речь идет об уязвимых пользователях, которые уже находились на грани психологического кризиса, а искусственный интеллект лишь усугубил их состояние.

Авторы исследования назвали ситуацию тревожной и предостерегли, что без дополнительных ограничений и предохранителей чат-боты могут ослаблять критическое мышление и подрывать способность человека адекватно воспринимать реальность.

Психиатр Марлинн Уэй в комментарии для Psychology Today объяснила, что современные чат-боты не созданы для терапевтической помощи, а прежде всего для поддержания постоянного взаимодействия с пользователем. Поэтому они могут как временно успокаивать, так и ухудшать такие симптомы, как маниакальные состояния, дезорганизованное мышление и навязчивое желание постоянного общения.

Также она отметила необходимость в развитии "психообразования об искусственном интеллекте", чтобы пользователи осознавали риски и не воспринимали чат-ботов как замену реальным специалистам по психическому здоровью.

Преподавательница философии Университета Эксетера Люси Ослер добавила, что искусственный интеллект не может заменить живую человеческую коммуникацию. По ее мнению, обществу стоит больше инвестировать в преодоление социальной изоляции, которая делает людей особенно уязвимыми к технологической зависимости.

Также отмечается, что The Independent обратился за комментариями к компаниям OpenAI, Google и Microsoft, однако на момент публикации ответы предоставлены не были.

Также сообщалось, что компания OpenAI, по слухам, рассматривает возможность внедрения таргетированной рекламы в ChatGPT.