Штучний інтелект суттєво змінює звіти поліції США

офіцер Венді Венегас тихо розмовляла іспанською з 14-річним підлітком, який стояв на узбіччі вузької житлової дороги в Східному Пало-Альто. Обличчя дівчини було одутлим від плачу, коли вона тихо пояснювала, що сталося.

Дівчина сказала, що того ранку батько застав її та її хлопця за «вчинками», а тато або вдарив, або штовхнув хлопця, як пізніше пояснив Венегас. Тепер поліція прибула, щоб опитати всіх трьох. Поки що це була стандартна процедура.

Але коли прийшов час перетворити цей інцидент на звіт, Венегас отримав допомогу від нового помічника: передового інструменту штучного інтелекту під назвою Draft One.

Східний Пало-Альто, невелике робітниче місто, яке відчуває себе далеко від своїх сусідів у Кремнієвій долині, є одним із небагатьох департаментів Каліфорнії, включаючи Кемпбелл, Сан-Матео, Бішоп і Фресно, які почали використовувати або тестувати штучний інтелект. програмне забезпечення, розроблене компанією Axon, лідером у галузі натільних камер і електрошокерів. Axon сказав, що програма може допомогти офіцерам створювати об’єктивніші звіти за менший час. Але оскільки все більше агенцій використовують такі інструменти, деякі експерти загадуються над питанням, чи не надають вони штучному інтелекту занадто великої ролі в системі кримінального правосуддя?

«Ми забуваємо, що цей документ відіграє справді центральну роль у рішеннях, які змінюють життя людей», — сказав Ендрю Фергюсон, професор кримінального права Вашингтонського юридичного коледжу Американського університету, який написав першу статтю з огляду законодавства про поліцейські звіти за допомогою штучного інтелекту. планує опублікувати наступного року.

Від документування подробиць складних вбивств до запису основ викраденого велосипеда, поліцейські звіти були в центрі роботи поліції.

«Вони насправді є будівельним блоком системи кримінального правосуддя, тому що вони є офіційним видом пам’яті про те, що сталося, коли та іноді чому», — сказав Фергюсон.

Прокурори приймають рішення щодо висунення звинувачень, судді приймають рішення про звільнення під заставу, а люди приймають рішення щодо власного захисту на основі – принаймні частково – того, що є на цьому початковому аркуші паперу.

«Якщо частина цього формується штучним інтелектом, це викликає серйозні занепокоєння щодо того, чи можна на нього покластися», — сказав Фергюсон. Потенціал помилки або упередженості, внесений ШІ, все ще вивчається. Але, додав він, у керівників правоохоронних органів є зрозуміле бажання підвищити ефективність.

Axon рекламує свій інструмент Draft One як засіб примноження сили, що є привабливим для багатьох відділів поліції, які намагаються набрати та утримати офіцерів. Ця криза , за словами багатьох правоохоронних органів, посилилася вбивством Джорджа Флойда та подальшими протестами.

«Маятник коливається, але багато з них все ще на 15-20% нижчі за цільову чисельність сил», — сказав засновник Axon Рік Сміт під час серпневої телефонної розмови з акціонерами. «І ось тут ми чуємо такий магічний відгук, де вони кажуть: «Чоловіче, з Draft One, якщо це звільняє 20-25% дня моїх офіцерів від написання звітів, це майже як 20 % збільшення моєї силової сили за одну ніч».

Керівник Східного Пало-Альто Джефф Лю сказав, що його агентство не захищене від цих кадрових проблем. У бюджеті департаменту передбачено 36 офіцерів, включно з начальником, але зараз йому не вистачає восьми посад. Він не вважає Draft One готовим рішенням, але сподівається, що це допоможе офіцерам проводити більше часу на вулиці.

«Якщо цей ШІ збирається пришвидшити звіти, але без шкоди для точності, я вважаю, що це перемога», — сказав він. Контракт East Palo Alto показує, що Draft One обходиться місту приблизно в 70 доларів США за одну натільну камеру на місяць або близько 40 000 доларів на рік.

Лю сказав, що хоча зараз він не пише багато звітів, він використовує ChatGPT для написання публікацій у соціальних мережах і навіть листів зі співчуттями, які потім налаштовує власним голосом. За його словами, робота з популярним чат-ботом AI зробила його більш відкритим для Draft One. Draft One використовує той самий базовий штучний інтелект, що й ChatGPT , але дані відділу зберігаються в безпечній урядовій хмарній службі, розробленій Microsoft.

Axon - не єдина компанія, яка пропонує цю послугу. Truleo – компанія, яка використовує штучний інтелект для аналізу величезної кількості записів з натільних камер, щоб переконатися, що офіцери діють професійно – пропонує подібну програму для написання звітів, але вона не була продана чи прийнята так широко, як Axon Draft One.

У сусідньому окрузі Санта-Клара капітан поліції Кемпбелл Ієн Вайт сказав, що в перший місяць тестування Draft One у його відділі офіцери сказали, що це заощадило їм близько 50 годин. Департамент поліції у Форт-Коллінзі, штат Колорадо, виявив, що в середньому звіти, написані за допомогою Draft One, складалися за вісім хвилин, тоді як для звітів, написаних без використання програмного забезпечення, потрібно 23 хвилини.

Але перше незалежне дослідження програмного забезпечення Draft One, опубліковане цього тижня в Journal of Experimental Criminology, не підтвердило економію часу, про яку повідомляли Уайт та інші. Дослідники з Університету Південної Кароліни минулого року провели рандомізоване контрольоване випробування з поліцейським управлінням Нью-Гемпшира, яке виявило, що офіцери, які використовували Draft One, не писали звіти швидше, ніж ті з контрольної групи.

Доцент Ієн Адамс, який керував дослідженням, сказав, що поки що не може зробити висновки про те, чому не вдалося заощадити час – він та його колеги все ще вивчають це – але він сказав, що результати його здивували. Він також застеріг не надавати своїм висновкам занадто великої ваги. «Це в одному агентстві, про один результат в один момент часу», — сказав Адамс.

Його команда все ще досліджує, чи можуть бути інші переваги, такі як точність або повнота. Якщо такі технології, як Draft One, можуть створювати краще написані звіти, сказав він, «можливо, їх рідше [частіше] повертатимуть для редагування чи перегляду, і ви, можливо, зможете побачити системну економію».

Офіцер Венегас зі Східного Пало-Альто сказала, що програма допомагає їй подолати письменницький блок, особливо після довгого дня патрулювання. Вона може просто натиснути кнопку Draft One на своєму комп’ютері, і за лічені секунди з’явиться розповідь, заснована на аудіо-транскрипті запису її бодікамери.

«Коли ти не знаєш, які слова намагаєшся написати, а потім просто дивишся і кажеш: «О, це саме те, про що я думав!» Це найкраще», – сказала вона. Draft One також змінює спосіб її роботи в полі. Оскільки звіт ґрунтується на аудіозаписі, Венегас сказала, що вона цілеспрямовано розповідатиме про те, що відбувається під час інциденту.

«Я скажу: «Ти це бачив? Дзеркало розбите», — сказав Венегас. «Ти бачив це? На підлозі є речі. Ніж, закривавлений ніж, лежить на підлозі».

Дизайнер продукту Axon Ноа Спітцер-Вільямс сказав, що це один із найдивовижніших і захоплюючих побічних ефектів програмного забезпечення: воно стимулює офіцерів бути більш словесними загалом, навіть говорити в мікрофон камери, щоб надати контекст – наприклад, умовно-дострокове звільнення суб’єкта. або чи було повідомлено про зброю до прибуття на місце події – тому аудіо стенограма містить ключові деталі, які Draft One містить у звіті.

«Потім, під час спілкування, офіцер ставить додаткові запитання», — сказала Спітцер-Вільямс. «Вони повторюють твердження на кшталт: «Добре, Джиммі. Ви даєте мені згоду на обшук вашого рюкзака».

Спітцер-Вільямс сказав, що це також допомагає налагодити відносини з громадою, оскільки поліцейські пояснюють, що вони роблять і чому.

Але дослідження Американського союзу громадянських свобод показує, як розповіді офіцерів у реальному часі також використовувалися для маніпулювання доказами. Типовим прикладом є коли поліцейські кричать «припиніть опір», щоб виправдати застосування сили, навіть якщо особа підкоряється. Спітцер-Вільямс з Axon сказав, що він не вірить, що Draft One посилить цю «реальну стурбованість».

Спітцер-Вільямс також вказав на дослідження Axon , яке показало, що звіти, написані програмним забезпеченням, мають тенденцію використовувати менш упереджену мову, ніж звіти, написані офіцерами.

Повернувшись у конференц-зал у відділі поліції Східного Пало-Альто, Венегас зачитала свій звіт, створений ШІ. «23 вересня 2024 року, приблизно о 10:49, я, офіцер Венегас, відповів на виклик про неповнолітнього та домашній конфлікт».

За її словами, програма створила хороший чернетковий проект, але вона має деякі обмеження. На даний момент Draft One розуміє лише англійську, тому деякі речі були неправильні, наприклад, хто розмовляв і хто з ким був родичем.

«Іноді він робить такі маленькі помилки, — сказав Венегас, — які легко виправити».

Дехто в секторі кримінального правосуддя сказав, що ці, здавалося б, дрібні помилки вказують на серйозніші питання щодо авторства, які можуть стати критичними в процесі судового розгляду. Доктор Метью Гуаріглія, політичний аналітик Electronic Frontier Foundation, сказав, що він стурбований тим, що ці звіти «знищать можливість перехресного допиту офіцерів. Тому що, якщо офіцера спіймають на брехні під час трибуни, вони завжди можуть просто сказати: «Ну, це написав ШІ».

Уайт з департаменту поліції Кемпбелла, який використовує програмне забезпечення з травня, сказав, що політика його департаменту гарантує, що поліцейські беруть на себе відповідальність за створення звітів, створених Draft One. За його словами, навіть якщо офіцер «облажався» і до звіту було внесено помилку, це має бути легко вирішено, переглянувши те, що він назвав «золотим стандартом» доказів: відео з бодікамери.

«У будь-якій людській діяльності є помилка», — сказав Вайт. Він вважає, що ШІ зробить речі точнішими, а не меншими.

Помічник окружного прокурора округу Сан-Матео Ребекка Баум, яка спілкувалася з поліцейськими департаментами Східного Пало-Альто та Сан-Матео про їх перехід до звітів за допомогою ШІ, сказала, що її офіс дивиться на нову програму з обережним оптимізмом. Її головне занепокоєння полягає в тому, що натільні камери, і особливо звук натільних камер, не фіксують усе, що відбувається під час інциденту.

«Зверніть увагу на поведінку свідків, якщо хтось перебуває під дією наркотиків чи алкоголю, якщо є травми, — сказав Баум, — це не видно з аудіозапису натільної камери».

За словами Баума, поліцейські повинні продовжувати брати участь у процесі написання цих звітів, щоб вони не пропустили щось, зокрема інформацію, яка показує, що особа може бути невинуватою, яку прокурори зобов’язані передати.

Зі свого боку, Axon також вбудував у програму низку заходів безпеки, щоб гарантувати, що офіцер детально ознайомиться зі звітом, перевірить його та переконається, що він точний.

На екрані комп’ютера офіцер Венегас продемонструвала, як кожен абзац звіту містить коментарі, які потрібно вирішити, перш ніж вона зможе перенести звіт із чернетки першого до системи департаменту.

І в самому низу екрана Венегас вказала на поле, яке вона має клацнути, останній крок, який, за словами Спітцер-Вільямса з Axon, є «можливо, найважливішим», враховуючи потенційні наслідки кожного звіту.

«Я визнаю, що цей звіт був створений Axon за допомогою Draft One», — прочитав вголос Венегас. «Я також визнаю, що я детально переглянув звіт, вніс усі необхідні зміни та вважаю, що він є точним відображенням моїх спогадів про події, про які йдеться. Якщо знадобиться, я готовий засвідчити точність цього звіту».