Claude здав користувачку поліції: сенсаційне затримання у Флориді

Справа щодо 30-річної Карлі Мішель Геллер висвітлила ширшу проблему конфіденційності, пов'язану з чат-ботами на базі штучного інтелекту. Нещодавнє опитування DuckDuckGo, в якому взяли участь 2 000 дорослих жителів США, показало, що багато людей не знають, як компанії, суди чи правоохоронні органи можуть обробляти розмови з штучним інтелектом, пише IFLScience.

Опитування виявило, що 53 % респондентів не знали або не були впевнені в тому, що їхні розмови можуть використовуватися для навчання штучного інтелекту. Лише 25 % знали, що уряд може вимагати надання записів чатів зі штучним інтелектом на підставі судової повістки. Серед користувачів та некористувачів штучного інтелекту 43% не знали про жодну з проблем конфіденційності, що розглядалися в опитуванні.

Деякі люди розповідають системам штучного інтелекту те, про що не розповідають навіть тим, кому довіряють. Згідно з опитуванням, 32% усіх користувачів штучного інтелекту та 56% прихильників штучного інтелекту розповідали йому те, що приховували від найближчих людей у своєму житті.

Справа Геллер продемонструвала, як розмова з чат-ботом може призвести до втручання поліції, коли повідомлення вважаються загрозливими. За словами шерифа Карміна Марсено Геллер використовувала Claude як щоденник. 30 вересня 2026 року її заарештували в її будинку.

У протоколі про затримання зазначено, що Геллер нібито надіслала Claude кілька повідомлень, які містили потенційно загрозливий зміст. У одному з повідомлень, надісланому 26 вересня приблизно о 5:10 ранку, нібито було сказано: "Я зараз же, б***ь, розстріляю офіс шерифа (офіс шерифа округу Лі)".

Ще одне повідомлення, як стверджується, було надіслано 27 вересня приблизно о 1:07 ранку. У ньому йшлося: "ЦЕ НА 100% ОСТАННІЙ ШАНС, З МЕНЕ ДОСИТЬ. СЬОГОДНІ Я ПРИДБАЛА НОВУ, Б****КУ, ЗБРОЮ. ПІШЛИ ВИ Н***Й".

Згідно з протоколом затримання, системи безпеки Claude відстежували розмову на наявність ключових слів та фраз, пов'язаних із потенційно загрозливим змістом. З огляду на характер цих повідомлень, розмова була передана на розгляд команді фахівців компанії Anthropic. Команда фахівців компанії повідомила про цю розмову правоохоронним органам, після чого Геллер затримали.

Цей випадок не означає, що про кожну розмову з ШІ автоматично повідомляють поліції. Воно лише показує, що користувачам не слід вважати, ніби чат-бот на базі штучного інтелекту забезпечує такий самий рівень конфіденційності, як особистий щоденник.

Системи компаній можуть мати процедури безпеки, які дозволяють передавати певні розмови на розгляд людським експертам, а юридичні процедури також можуть надавати органам влади доступ до записів чатів.

Марсено зазначив, що штучний інтелект — це потужний інструмент, який, як і будь-яка технологія, може бути використаний не за призначенням. Він також наголосив, що користувачі ШІ повинні розуміти: розмови з чат-ботами ніколи не є повністю анонімними.

"Коли хтось використовує штучний інтелект для погроз або сприяння їх здійсненню, ми маємо ставитися до цих погроз серйозно".

Геллер було висунуто звинувачення у письмовій погрозі насильства згідно зі Статтею 836.10 Кодексу штату Флорида, і вона мав з'явитися в суді в листопаді.

Інші новини науки

• GPT-6 Astra розшифрував секретний лист до маршала Наполеона. ШІ поєднав розпізнавання зображень, криптоаналіз та історичні дослідження в єдиний робочий процес.
• Вчені створили нову модель ШІ під назвою "Apollo". Вона призначена для роботи з давньогрецькими текстами і може не тільки їх перекладати, а й відновлювати.