Штучний інтелект врятував життя: ChatGPT викрив план вбивства та звернувся до правоохоронців

У штаті Флорида (США) штучний інтелект ChatGPT допоміг правоохоронцям запобігти жорстокому злочину. Чат-бот розпізнав смертельну загрозу в повідомленнях користувача та передав інформацію ФБР, що врятувало життя 21-річній дівчині.

Про це передає Вild.

25-річний Даррен Чжоу, аналітик інвестиційного банку, детально описав ChatGPT, як він планував викрасти, зґвалтувати та вбити свою колишню дівчину.

«Якщо я не можу її мати, то ніхто не зможе», — написав Чжоу штучному інтелекту. Системи безпеки OpenAI, компанії, яка керує ChatGPT, розпізнали загрозу та попередили ФБР.

Як виявилося, 21-річна дівчина розірвала стосунки по телефону.

У повідомленнях для ChatGPT Чжоу задокументував інтереси своєї колишньої дівчини, місця, які вона часто відвідувала, та свою ревнощі. Він описав, як планував влаштувати їй засідку біля спортзалу, зґвалтувати та вбити. Він писав про зброю, свої хворі фантазії та свою одержимість поверненням її: «Якщо вона не дасть мені другого шансу, я зґвалтую та вб’ю її, а потім себе».

Системи безпеки OpenAI виявили загрозливий контент. Співробітник проаналізував матеріал і повідомив про нього ФБР. Федеральна поліція передала журнали дзвінків слідчим. Вони оцінили тривожні повідомлення, що надходили до ШІ, як змову з метою вбивства. Чжоу було заарештовано та він визнав себе винним. Він також зізнався, що неодноразово переслідував свою колишню дівчину після їхнього розриву дзвінками та текстовими повідомленнями з різних номерів телефонів та через соціальні мережі.

Прокурор звинуватив Чжоу у переслідуванні, письмових погрозах смертю та використанні комунікаційного пристрою для скоєння злочину. Суддя засудив його до восьми років умовного терміну. ​​Йому заборонено контактувати зі своєю колишньою дівчиною, володіти вогнепальною зброєю, а також він повинен носити електронний браслет протягом двох років.

ChatGPT у минулому критикували за те, що він не втручається у випадки погрозливих повідомлень. Ця прогалина в безпеці, схоже, зараз зменшується.