ChatGPT "оклеветал" норвежца, обвинив в убийстве детей - мужчина требует наказания для OpenAI

В Норвегии гражданин Арве Ялмар Холмен подал официальную жалобу на компанию OpenAI - разработчика чат-бота ChatGPT. Причина - обвинения в убийстве собственных детей, которые, по словам Холмена, бот придумывает самостоятельно. Об этом инциденте сообщает издание BBC.

Все началось с невинного запроса: мужчина ввел в ChatGPT фразу "Кто такой Арве Ялмар Холмен?", и получил ответ, который его шокировал. В нем говорилось, что он был отцом двух мальчиков, которых нашли мертвыми в пруду возле дома в Тронгейме, и что сам Холмен получил 21 год заключения.

"Меня больше всего пугает, что кто-то мог прочитать это - и поверить. Некоторые думают, что дыма без огня не бывает", - заявил мужчина в комментарии BBC. При этом бот даже указал точную разницу в возрасте между его сыновьями, что натолкнуло Холмена на мысль: система может иметь доступ к частным данным.

Организация по цифровым правам Noyb назвала эту ситуацию клеветой и нарушением норм защиты персональных данных, что противоречит европейскому законодательству. В Noyb также отметили: в тот же день Холмен тестировал запросы с именем своего брата - и тоже получил несколько вымышленных "историй", которые не имели ничего общего с реальностью.

OpenAI пока ситуацию публично не комментировала. Но скандал уже вызвал дискуссии о правовой ответственности за так называемые "галлюцинации" искусственного интеллекта и последствия для репутации людей, которые становятся их невольными "героями".

Эта история - очередное напоминание, что ИИ - это не безопасная энциклопедия, а сложный инструмент, который способен ошибиться с очень серьезными последствиями

Напомним, ИИ научился распознавать боль и стресс у животных по фотографиям их морд.