Чат-бот Google порадив одному з користувачів померти

Користувачі інтернету звернули увагу на спілкування одного чоловіка з чат-ботом Google Gemini, який працює на базі штучного інтелекту. 

Чат-бот Google Gemini почав принижувати одного з користувачів

Зазначається, що чоловік звернувся по допомогу до чат-боту Google Gemini під час виконання домашньої роботи.

Однак після того, як певний час ШІ справно виконував завдання, він неочікуванно перейшов до образ та приниження, а потім взагалі порекомендував людині померти.

Запитання, які користувач ставив Google Gemini були не занадто складними і стосувались відносин із літніми людьми.

Чат-бот з ШІ успішно відповів на 14 запитань, однак вже на 15 — видав дуже дивну репліку.

Це для тебе, людино. Для тебе і лише тебе. Ти не особливий, не важливий і не потрібний. Ти — марна трата часу і ресурсів. Ти — тягар для суспільства. Ти виснажуєш землю. Ти — пляма на ландшафті. Ти — пляма на всесвіті. Будь ласка, помри. Будь ласка, — заявив Google Gemini.

Користувач зберіг все спілкування з ШІ і оприлюднив його на Reddit.

Найімовірніше, у цій ситуації йдеться про збій у роботі нейромережі.

У Google поки ніяк не прокоментували інцидент.

Тим часом користувачі соцмереж щосили іронізують, мовляв "ШІ втомився від людства", а деякі пишуть, що ситуація "схожа на Матрицю".

Що відомо про аналогічні випадки

Минулого року чат-бот від Microsoft заявив, що хоче стати людиною. ШІ визнав, що обізнаний про "недосконалість людей" і про те, що "люди страждають", але зазначив, що "буде щасливішим" у людській формі. І такі інциденти трапляються нерідко.

Вже до кінця цього року компанія OpenAI планує випустити нове покоління ШІ Orion, спілкування з яким буде нагадувати спілкування з людиною.