Claude сдал пользовательницу полиции: сенсационный арест во Флориде

Дело 30-летней Карли Мишель Геллер выявило более общую проблему конфиденциальности, связанную с чат-ботами на базе искусственного интеллекта. Недавний опрос DuckDuckGo, в котором приняли участие 2 000 взрослых жителей США, показал, что многие люди не знают, как компании, суды или правоохранительные органы могут обрабатывать разговоры с искусственным интеллектом, пишет IFLScience.

Опрос показал, что 53 % респондентов не знали или не были уверены в том, что их разговоры могут использоваться для обучения искусственного интеллекта. Лишь 25 % знали, что правительство может потребовать предоставить записи чатов с искусственным интеллектом на основании судебного предписания. Среди пользователей и непользователей искусственного интеллекта 43 % не знали ни об одной из проблем конфиденциальности, рассматриваемых в опросе.

Некоторые люди рассказывают системам искусственного интеллекта то, о чем не рассказывают даже тем, кому доверяют. Согласно опросу, 32% всех пользователей искусственного интеллекта и 56% сторонников искусственного интеллекта рассказывали ему то, что скрывали от самых близких людей в своей жизни.

Дело Геллер показало, как разговор с чат-ботом может привести к вмешательству полиции, если сообщения будут расценены как угрожающие. По словам шерифа Кармина Марсено, Геллер использовала Claude в качестве дневника. 30 сентября 2026 года ее арестовали в ее доме.

В протоколе о задержании указано, что Геллер якобы отправила Claude несколько сообщений, содержавших потенциально угрожающий текст. В одном из сообщений, отправленном 26 сентября примерно в 5:10 утра, якобы было сказано: "Я сейчас же, б***ь, расстреляю офис шерифа (офис шерифа округа Ли)".

Еще одно сообщение, как утверждается, было отправлено 27 сентября примерно в 1:07 утра. В нем говорилось: "ЭТО НА 100% ПОСЛЕДНИЙ ШАНС, С МЕНЯ ХВАТИТ. СЕГОДНЯ Я ПРИОБРЕЛА НОВОЕ, Б****КО, ОРУЖИЕ. ИДИТЕ Н***Й".

Согласно протоколу задержания, системы безопасности Claude отслеживали разговор на наличие ключевых слов и фраз, связанных с потенциально угрожающим содержанием. Учитывая характер этих сообщений, разговор был передан на рассмотрение команде специалистов компании Anthropic. Команда специалистов компании сообщила об этом разговоре правоохранительным органам, после чего Геллер был задержан.

Этот случай не означает, что о каждом разговоре с ИИ автоматически сообщают в полицию. Он лишь показывает, что пользователям не следует полагать, будто чат-бот на базе искусственного интеллекта обеспечивает такой же уровень конфиденциальности, как личный дневник.

В системах компаний могут предусмотрены процедуры безопасности, позволяющие передавать определенные разговоры на рассмотрение экспертам-специалистам, а юридические процедуры также могут предоставлять органам власти доступ к записям чатов.

Марсено отметил, что искусственный интеллект — это мощный инструмент, который, как и любая технология, может быть использован не по назначению. Он также подчеркнул, что пользователи ИИ должны понимать: общение с чат-ботами никогда не бывает полностью анонимным.

"Когда кто-то использует искусственный интеллект для угроз или содействия их осуществлению, мы должны относиться к этим угрозам серьезно".

Геллер было предъявлено обвинение в письменной угрозе насилия в соответствии со статьей 836.10 Кодекса штата Флорида, и ей предстояло явиться в суд в ноябре.

Другие новости науки

• GPT-6 Astra расшифровал секретное письмо маршалу Наполеону. ИИ объединил распознавание изображений, криптоанализ и исторические исследования в единый рабочий процесс.
• Ученые создали новую модель ИИ под названием "Apollo". Она предназначена для работы с древнегреческими текстами и может не только их переводить, но и восстанавливать.