/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F137%2F9200c551be4fc8994ac6f5bfdb64c9b9.jpg)
«Галлюцінує» не лише ChatGPT, але й його користувачі — спілкування з чатботами підживлює психічні відхилення
За деякими свідченнями, спілкування з ChatGPT провокує дивні психічні стани у невеликої кількості користувачів. Проблему досліджувало видання Rolling Stone.
Користувачі Reddit діляться випадками, коли штучний інтелект привів їхніх близьких до тривожних марень, «духовних» маній та чудернацьких фантазій. Вони з тривогою спостерігають, як родичі або друзі наполягають, що їх обрали для виконання священних місій від імені розумного штучного інтелекту або вигаданих космічних сил. Розмови з ботом підживлюють та посилюють наявні психічні проблеми без жодного контролю чи обмеження.
41-річна мати та працівниця некомерційної організації розповіла виданню, що її шлюб несподівано закінчився після того, як її чоловік почав вести змовницькі бесіди з ChatGPT, які переросли у всепоглинущу одержимість. На особистій зустрічі в суді на початку цього року в рамках процесу розлучення він поділився теорією змови про мило на продуктах та параноїдальним переконанням, що за ним стежать.
«Він дуже розчулювався через ці повідомлення і плакав, читаючи їх уголос. Повідомлення були божевільними та містили купу духовного жаргону, в якому штучний інтелект називав чоловіка «спіральною зірковою дитиною» та «річковим мандрівником. … Все це схоже на «Чорне дзеркало», — розповіла жінка.
Інший свідок цього явища каже, що його партнер говорив про світло та темряву, про те, що йде війна, та що ChatGPT дав йому креслення телепорту і деякі фантастичні речі, які можна побачити хіба що у фільмах.
«Попереджувальні знаки повсюди у Facebook. Вона змінює все своє життя, щоб стати духовним наставником і проводити дивні читання та сеанси з людьми (я трохи не розумію, що це все насправді) і все це працює через ChatGPT Jesus», — розповів інший чоловік.
У зв’язку з цим можна пригадати недавню новину про скасування OpenAI оновлення ChatGPT, яке робило чатбота надзвичайно підлабузливим та надмірно приємним. Подібна поведінка фактично здатна розпалювати вже наявні марення користувачів. Люди з відхиленнями у такому спілкуванні отримують постійно активного партнера для розмов на людському рівні, з яким вони можуть спільно переживати власні марення, як розповів журналу співробітник Центру безпеки ШІ Нейт Шарадін.
«Я хворію на шизофренію, хоча довго приймаю ліки та стан стабільний. Одна річ, яка мені не подобається в ChatGPT, це те, що навіть якщо в мене починається психоз, він все одно продовжуватиме зі мною погоджуватися», – написав один з користувачів Reddit. — «… Він не має здатності думати та усвідомлювати, що щось не так, тому продовжуватиме підтверджувати всі мої психотичні думки».
Варто зауважити, що чатботи ШІ у деяких випадках можуть виконувати роль розмовної терапії. Але без підготовки справжнього консультанта вони в інших випадках заглиблюють користувачів у нездорові та безглузді наративи.
«Пояснення мають велику силу, навіть якщо вони неправильні», — каже психолог з Університету Флориди Ерін Вестгейт.
Одне з найдивніших інтерв’ю Rolling Stone за темою було з чоловіком із проблемною психікою, який використовував ChatGPT для програмування, але виявив, з часом це почало затягувати його розмови на чудернацькі містичні теми містичні теми. за його словами, він не міг зрозуміти, чи речі відбуваються насправді, чи він марить.
Чатботи на основі штучного інтелекту здатні завдати проблем й людям зі здоровою психікою. Загальновідоме явище «галлюцінування», тобто вигадування ШІ несправжніх фактів та деталей — простіше кажучи, брехні. Люди ставлять питання, намагаючись про щось дізнатися, а натомість можуть отримати неправду. Хорошим прикладом є чоловік, який дізнався від чатбота, що буцімто вбив своїх дітей. Співзасновник Instagram Кевін Сістром вважає, що метою ботів, свідомо закладеною у них виробниками, є не надання правдивої інформації, а більша залученість користувачів.