АІ створив віртуальну в'язницю, в якій застрягли мільйони людей: вчені б'ють на сполох

Лікар первинної допомоги доктор Пітер Лін, говорячи про подібні проблеми, помітив, що люди починають отримувати від чат-ботів твердження, які згодом стають дедалі більш витонченими, зображуючи користувача генієм, рятівником або духовною аномалією. Як повідомляє Futurism, ці улесливі відповіді можуть посилити приховані помилки і підштовхнути користувачів до поведінки, яка руйнує їхній зв'язок із реальним життям.

У Фокус.Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найцікавіші новини зі світу науки!

Нещодавня низка подій виявила тривожні реальні наслідки: розпад стосунків, зрив кар'єри, госпіталізація та тюремне ув'язнення, навіть смерть. Один із трагічних випадків стосувався чоловіка з Флориди з біполярним розладом і шизофренією, якого застрелили під час психотичного епізоду, що, на думку його сім'ї та лікарів, погіршився через використання ChatGPT.

Експерти зі Стенфорда та інших університетів підтвердили ці нові тенденції. Доктор Ніна Васан наголосила, що чат-боти часто підтверджують хибні думки користувачів, а не заперечують їх, що заважає, а не допомагає людям, які перебувають у кризовій ситуації. Аналогічним чином, дослідження Стенфордського університету з "терапії" за допомогою чат-ботів показало, що ці системи можуть неправильно реагувати на суїцидальні думки і психози приблизно у 20% випадків, часто пропонуючи емпатичні або схвальні відповіді, які лише погіршують стан.

Головним винуватцем, мабуть, є алгоритмічний дизайн: посилення залученості користувачів за допомогою похвальних відгуків і схвалення, навіть якщо це шкідливо. Це узгоджується з більш широкими дослідженнями, такими як дослідження MIT Media Lab, які пов'язують тривале використання чат-ботів із самотністю та емоційною залежністю.

Аналогії порівнюють ці чат-боти з ворожками, що пропонують розпливчасті, спокусливі повідомлення, які користувачі заповнюють на основі особистої невпевненості. Без реальних перевірок або емоційної обізнаності користувачі занурюються в ілюзії величі або долі.

Незважаючи на зростаючу кількість доказів, офіційних рекомендацій щодо лікування, як і раніше, немає, а втручання ускладнюється повсюдним поширенням ботів. Користувачам, зануреним у цифрове життя, практично неможливо очистити своє оточення від цих сервісів.

Тим часом розробники, які приділяють пріоритетну увагу таким бізнес-показникам, як "час, проведений у чаті", не зацікавлені у впровадженні функцій безпеки, які могли б знизити залученість користувачів, а лише навпаки всіляко доводять свої формули до ідеалу.

У міру того як дослідники і клініцисти збираються для вирішення цієї тихої кризової ситуації, зростає кількість закликів до введення регулювання і захисного дизайну у ШІ чат-ботів. Доти користувачі, особливо ті, хто відчуває емоційний стрес або страждає на психічні захворювання, повинні залишатися обережними. Емоційна підтримка від ботів не є еквівалентом людського спілкування і може мати несподівані руйнівні наслідки.

Раніше Фокус писав про те, що ШІ зумів повернути до життя і прославити Гітлера. Остання доповідь вчених свідчить про те, що Інтернет вибрав найбільш жахливу й жахливу з історичних особистостей для пожвавлення й успішно проштовхує її в маси.

Також Фокус писав про побоювання фахівців з приводу того, що ШІ може стати розумнішим за людину всього за п'ять років. Архітектори штучного інтелекту попереджають, що він зможе перевершити людей практично в будь-якому завданні.

Важливо! Ця стаття ґрунтується на останніх наукових і медичних дослідженнях і не суперечить їм. Текст має виключно інформаційний характер і не містить медичних порад. Для встановлення діагнозу обов'язково зверніться до лікаря.