Бразильця заарештували після того, як він розповів ChatGPT, що хоче вбити сина. Чому ця справа може змінити закон

"Я запропонував йому 50 тисяч, щоб він убив мене та мого сина, але він відмовився, бо йшлося про дитину".

"Я хотів зрозуміти, звідки виникає це бажання вбивати людей. Мені подобається бачити, як страждає інша людина".

УВАГА: стаття містить описи насильства та самогубства.

Майже два місяці 36-річний бразильський фермер обмінювався з ChatGPT цими та іншими повідомленнями. За версією поліції, чоловік планував убити свого восьмирічного сина, напасти на інших людей, а потім накласти на себе руки.

Саме ці повідомлення, з якими ознайомилася Бразильська служба BBC, зрештою призвели до його арешту.

OpenAI, розробник ChatGPT, звернув увагу ФБР на повідомлення фермера. Американське відомство, своєю чергою, повідомило бразильські органи влади.

Адвокат чоловіка стверджує, що його підзахисний просто "говорив усілякі дурниці" чатботу і жодного злочину не скоював.

Це один із небагатьох таких випадків.

Це ставить перед поліцією, судами та розробниками штучного інтелекту дедалі актуальніше й складніше питання: що робити, якщо ШІ-чатбот виявляє потенційну загрозу ще до того, як злочин скоїли

"Усе, про що повідомила платформа, підтвердилося"

Чоловіка, ім'я якого BBC не називає, щоб захистити особу його сина, заарештували 19 червня в сільській місцевості муніципалітету Сан-Габріел-да-Палья.

Це сталося через три дні після того, як підрозділ Міністерства юстиції Бразилії з боротьби з кіберзлочинністю передав інформацію поліції штату.

"Ми надали цій справі пріоритет через її серйозність, а також тому, що, за попередніми даними, батько планував убити сина до 20 червня", - розповів Бренну Андраде, керівник відділу поліції з боротьби з кіберзлочинністю штату Еспіриту-Санту.

За словами Андраде, підозрюваний майже не спілкувався із сином, обмежуючись сплатою аліментів. Слідчі вважають, що невдоволення необхідністю цих виплат могло бути одним із мотивів можливого злочину.

Під час обшуку його будинку поліція виявила чотири пляшки з невстановленими речовинами, а також мотузку із зав'язаною петлею, що, на думку слідчих, могло свідчити про намір накласти на себе руки.

Поліція також вважає, що в розмовах із ChatGPT підозрюваний обговорював можливі напади на школи, церкви та поліцейських.

"Усе, про що платформа нам повідомила, підтвердилося, коли поліцейські прибули на місце", - заявив Андраде.

Сам чоловік заперечує, що мав намір завдати шкоди своєму синові.

Провівши під вартою 54 дні, 13 серпня він був звільнений. Обвинувачень йому поки не висунули, однак поліцейське розслідування триває.

Щодо фермера діють запобіжні заходи: він зобов'язаний носити електронний браслет і не має права контактувати із сином або матір'ю дитини.

Слідчі вивчають мобільний телефон підозрюваного та очікують на результати експертизи вилучених предметів.

Вони мають встановити, чи вживав чоловік якихось конкретних заходів для здійснення своїх планів - зокрема, чи справді він зв'язувався з найманим убивцею, як нібито стверджував у розмовах із ChatGPT.

Ці докази можуть допомогти визначити, чи перейшов підозрюваний від роздумів про злочин та його підготовки безпосередньо до виконання. Згідно з бразильським кримінальним законодавством, як правило, злочин вважається вчиненим лише після початку його безпосереднього виконання.

Захист наполягає, що жодних подібних дій чоловік не вчиняв.

"Якщо розмови зі штучним інтелектом і всілякі дурниці, сказані йому, - це злочин, тоді до в'язниці доведеться відправити всіх", - заявив Бразильській службі BBC адвокат Педру Паулу Пессі.

Проблема доказів

Вважається, що випадки, коли розробники штучного інтелекту самі повідомляють про користувачів правоохоронним органам, поки що вкрай рідкісні.

У серпні OpenAI передала ФБР інформацію про 25-річного жителя Флориди після того, як він поділився планами зґвалтувати та вбити свою колишню дівчину, повідомляли американські ЗМІ.

За словами Андраде з поліції штату Еспіриту-Санту, справа фермера стала першим у штаті випадком, коли підставою для перевірки став сигнал безпосередньо від системи штучного інтелекту, і лише третім таким випадком у всій Бразилії.

"Для поліції це ще один спосіб встановити, чи використовувала людина штучний інтелект для пошуку інформації про скоєння злочинів", - сказав Андраде.

Однак використання таких сигналів від ШІ-компаній у розслідуваннях породжує цілу низку питань. Наприклад, чи можна повідомлення користувача чатботу вважати доказами на суді.

Слідчі стверджують, що OpenAI надала їм дані користувача та надіслані ним повідомлення, однак не передала відповіді ChatGPT.

"Ми не отримали відповідей, які йому надавали", - зазначив Андраде.

За словами адвокатки у кримінальних справах Маїри Фернандес, це створює проблему з точки зору доказової бази, оскільки для оцінки повідомлень необхідно розуміти їхній контекст.

"Це не може бути невеликий уривок або відредагована версія. Необхідна вся переписка цілком", - сказала вона.

Фернандес вважає, що повна історія спілкування підозрюваного з ChatGPT дозволила б встановити, чи реагував чатбот на слова користувача, чи сам якимось чином спрямовував перебіг розмови.

У заяві для Бразильської служби BBC OpenAI не стала пояснювати, чому відповіді ChatGPT не передали слідчим. Компанія лише повідомила, що може повідомляти правоохоронні органи, якщо виявляє "достовірну та безпосередню загрозу завдання шкоди іншим людям".

У квітні цього року влада Флориди почала кримінальне розслідування щодо OpenAI, щоб встановити, чи могла технологія ChatGPT відіграти якусь роль у вбивстві двох людей під час масової стрілянини в Університеті штату Флорида минулого року.

OpenAI заперечує ці звинувачення. Компанія стверджує, що ChatGPT надавав інформацію, яка й без того була у відкритому доступі, і не заохочував та не сприяв протиправним діям.

Юридичний обов'язок діяти

За словами Фернандес, у цьому випадку рішення передати інформацію владі можна пояснити тим, що передбачуваною жертвою була конкретна дитина, особу якої можна було встановити.

Однак юристка застерігає від перетворення розслідувань, заснованих виключно на оцінках штучного інтелекту, на звичайну практику.

"Інакше розслідування можна буде розпочати проти будь-якої людини просто тому, що штучний інтелект саме так витлумачив її слова", - каже вона.

На думку Фернандес, необхідні механізми, які дозволятимуть відрізняти реальну загрозу від емоційного сплеску, фантазій або навмисно провокаційних висловлювань.

Патриція Пек, професорка та фахівчиня з цифрового права, вважає, що ця справа відображає масштабнішу трансформацію ролі штучного інтелекту: із інструмента для створення контенту він перетворюється на інтерактивну систему, "здатну виявляти моделі поведінки, пов'язані з потенційно небезпечними діями".

На її думку, за певних обставин у ШІ-компаній може виникати юридичний обов'язок повідомляти про загрозу владі.

"Коли розмова перестає відображати лише абстрактний намір і починає вказувати на конкретну загрозу - коли є певна жертва, наявні засоби для здійснення задуманого і виникає безпосередній ризик, - з'являється етичний, а в деяких випадках і юридичний обов'язок діяти", - каже Пек.

Однак, як і Фернандес, вона застерігає від надмірного використання таких механізмів.

"Етика застосування ШІ має ґрунтуватися не на принципі "контролювати все", а на принципі "втручатися лише тоді, коли ризик це виправдовує". Головне завдання - уникнути як бездіяльності, так і надмірного стеження".