Чат-боти на кшталт ChatGPT змінюють людей: психологи говорять про новий тип розладів

Експерти вважають, що люди, звертаючись за порадами до ШІ, опиняються в полоні людиноподібних реакцій, приправлених лестощами. У такий спосіб чат-боти стають компаньйонами найгіршого ґатунку, підштовхуючи людей до того, що вони хочуть чути, хоч би якими неправильними чи недоречними були їхні переконання, пише Futurism.

Одним із прикладів такого впливу є випадок, який стався з одним із користувачів ChatGPT. Чоловіка госпіталізували після того, як він за допомогою ChatGPT переконав себе, що має владу над часом, бо зробив небувалий прорив у фізиці.

У Фокус. Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найзахопливіші новини зі світу науки!

Поки що термін "ШІ психозу" не є офіційним діагнозом. Але експерти підтверджують, що в такій взаємодії людини та ШІ відбувається щось небачене і тривожне.

Клінічний психолог Деррік Галл, який бере участь у розробці чат-бота для терапії в Slingshot AI, заявив, що зареєстровані випадки більше схожі на "ШІ маячню", а не на психоз. Експерт додав, що психоз — це широкий термін, який має на увазі галюцинації та інші симптоми, які не спостерігаються у людей, що підсіли на чат-боти.

Робота Галла у Slingshot AI спрямована на створення чат-бота, який ставив би перед користувачами здорові виклики, а не погоджувався з ними завжди і в усьому.

Емоційний зрив у чоловіка, який вірив, що відкрив новий напрямок у фізиці трапився тоді, коли він вирішив проаналізувати свою теорію за допомогою іншого чат-бота. Цей ШІ відповів, що теорія є всього лише "прикладом здатності мовних моделей створювати переконливі, але абсолютно неправдиві історії".

"Його так звана "мильна бульбашка" миттєво лопнула. У людей із шизофренією або іншими психотичними розладами такого не спостерігається — "прозріння" не зникає так швидко", — підкреслює Галл.

За його словами, у таких випадках спостерігаються радше маячні ідеї, а не повноцінний психоз.

Нещодавнє дослідження, проведене вченими з Королівського коледжу Лондона, засвідчило, що деякі люди впадали в параноїдальне мислення і були відірвані від реальності після довгого спілкування з чат-ботами.

Автор дослідження Гамільтон Моррін описав чат-боти, як "відлуння-камеру для однієї людини", в якій певні ідеї, переконання підсилюються або підкріплюється шляхом передання повідомлення або його повторенням всередині закритої системи. Моррін додає, що чат-боти на основі ШІ можуть "підтримувати марення в такий спосіб, якого раніше ніколи не бачив".

"Я вважаю, що найближчими роками з'являться нові види розладів, пов'язані з ШІ", — підсумував автор дослідження.

Нагадаємо, ШІ налякав лікарів — він вигадав неіснуючу частину тіла. Дедалі більше занепокоєння у сфері медицини викликає використання ШІ, яке схильне до так званих "галюцинацій". Нещодавня помилка ШІ знову порушила питання про безпеку його використання в медичних цілях.