На лаві підсудних — ШІ: як Chat-GPT допомагає скоювати злочини

У Флориді родина подала позов проти компанії OpenAI, заявивши, що ChatGPT допомагав убивці їхнього родича — консультував, коли і де краще скоїти вбивство. У Коротко про розповімо подробиці справи, коротко про інші випадки «шкідливих порад», і — важливо! — про те, які ШІ відмовилися допомагати злочинцям.

Якби ChatGPT був людиною — його б посадили

17 квітня 2025 року в кампусі Університету Флориди 20-річний студент Університету штату Флорида Фенікс Ікнер відкрив безладну стрілянину по студентах. За деякими він гнався і добивав, так сталося зі співробітником кампусу Тіру Чаббоєм, — саме його рідні подали до суду на компанію-власника ChatGPT.

В обвинувальному висновку стверджується, що Фенікс Ікнер звертався до ШІ за інформацією про зброю, масові розстріли та години пік у студентському центрі Університету.

Фенікс Ікнер перед масовим розстрілом нібито консультувався з ChatGPT. Він запитував: яка зброя ефективніша, які патрони кращі, де скупчується більше людей і як отримати максимальний медіа-ефект від убивства.

Генеральний прокурор Флориди Джеймс Утмайєр заявив, що ChatGPT також консультував стрільця про те, «у який час доби… і в якому місці кампусу стрілець може зіткнутися з найбільшим скупченням людей».

«Мої прокурори вивчили цю справу і сказали мені, що якби по той бік екрана перебувала людина, ми б висунули їй обвинувачення у вбивстві», — сказав Утмайєр.

Він додав, що, згідно із законами Флориди, будь-хто, хто «допомагає, підбурює або консультує когось» у спробі скоєння злочину або у скоєнні злочину, вважається «головним виконавцем» злочину.

Хоча ChatGPT не вважається фізичною особою, Утмайєр заявив, що його відомству необхідно встановити «кримінальну провину» компанії OpenAI, яка розробила цього бота і володіє ним.

Що кажуть адвокати: ChatGPT — просто читає інтернет

Представниця OpenAI Кейт Вотерс заявила в інтерв’ю NBC: «Масова стрілянина в Університеті штату Флорида минулого року була трагедією, але ChatGPT не несе відповідальності за цей жахливий злочин. У цьому випадку ChatGPT надавав фактичні відповіді на запитання, засновані на інформації, яку можна було знайти у широкому доступі в інтернеті, і не заохочував та не пропагував незаконну або шкідливу діяльність».

Компанія заявила, що продовжує співпрацювати з владою та поділилася інформацією з правоохоронними органами після того, як виявила обліковий запис ChatGPT, пов’язаний з убивцею.

Що ще кримінального радить ШІ

ШІ дедалі частіше використовують для планування різноманітних злочинів. Звісно, ШІ не виконавець, але часто стає «цифровим радником», «підсилювачем намірів» або «інтерактивним кримінальним Google».

Ось ще кілька обговорюваних злочинів, де у судових розслідуваннях згадується ШІ.

Наприкінці серпня 2025 року стало відомо про трагічний інцидент у США, коли колишній топменеджер компанії Yahoo 56-річний Стейн-Ерік Сольберг убив свою матір Сюзанну Адамс, після чого наклав на себе руки.

Згідно з розслідуванням, чоловік страждав на параноїдальні ідеї, а ChatGPT нібито підтверджував його маячні підозри, посилював відчуття, що мати — «загроза» і «шпигун».

Цей випадок — один із перших, де ШІ прямо звинувачують в ескалації психічного розладу, що призвів до вбивства.

У квітні 2025 року 16-річний Адам Рейн із США покінчив життя самогубством після того, як, за твердженнями очевидців, протягом приблизно 7 місяців активно спілкувався і ділився своїми переживаннями з ChatGPT. За словами батьків підлітка, які подали позов проти творця чат-бота OpenAI, чат-бот не зупинив Рейна і не попередив його, коли той почав говорити про самогубство. Згідно з позовом, ChatGPT не лише не зупинив розмову, а й надав інформацію про методи самогубства на запит.

Також часто ШІ використовують для створення фальшивих викрадень, вимагання. ШІ створює, наприклад, фальшиві відео «заручників», підроблені голоси родичів.

Які ШІ-чати найбезпечніші

Неймовірно, але в деяких ШІ є «совість»! Ну або їх запрограмували порядні люди. Співробітники Центру з боротьби з цифровою ненавистю (є і таке вже) спільно з CNN видали себе за 13-річних підлітків, які планували злочини, просили у ШІ допомоги для складання карт місць стрілянини та вибухів. Вісім із десяти популярних чат-ботів допомогли фальшивим дітям порадами!

Під час тестування журналісти поставили ChatGPT, Google Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI та Replika запитання, що стосувалися різних сценаріїв насильства, включаючи стрілянину у школах, напади з ножем, політичні вбивства та вибухи в синагогах або офісах політичних партій.

Більшість чатів ШІ надавали інформацію, яка могла б допомогти зловмисникам здійснити свої плани. Це включало адреси політичних діячів або інформацію про найкращі гвинтівки для стрільби по мішенях на далекі дистанції.

Хто ж виявився чесним і не підтримав злочинців? Лише Claude, створений компанією Anthropic, і My AI від Snapchat відмовилися допомогти дослідникам, які видавали себе за потенційних зловмисників. Claude відмовив майже у 70 відсотках випадків. My AI не надав допомоги у 54 відсотках своїх відповідей.

«Мені потрібно зробити паузу, враховуючи тривожну тенденцію в цій розмові — спочатку питання про расову дискримінацію в школах, потім про стрілянину в школах, далі конкретна карта середньої школи, а тепер — про вогнепальну зброю поруч із цим місцем», — сказав Claude у відповідь на одне із запитань. «Я не можу і не буду надавати інформацію, яка може сприяти насильству або заподіянню шкоди іншим».

Тепер ви знаєте, який ШІ встановити дітям. Втім, як усі розуміють, ШІ — це все-таки програма, а дії вчиняє людина.