Поліція заарештувала чоловіка за вказівкою ШІ, хоча той не мав схожості зі справжнім злочинцем

Як технології можуть руйнувати життя?

Історія Тревіса Вільямса – яскравий приклад того, як надмірна довіра до технологій може призвести до фатальних помилок. У квітні його заарештували за звинуваченням у "публічній розпусті", скоєній двома місяцями раніше. Єдиною підставою для підозри стало те, що система розпізнавання облич, проаналізувавши нечітке відео з камери спостереження, видала його фото серед шести "ймовірних збігів", пише 24 Канал з посиланням на New York Times.

Результати роботи ШІ не є достатньою підставою для арешту. Навіть слідчий зазначив, що будь-яка особа, ідентифікована таким чином, є лише потенційним підозрюваним. Проте коли алгоритм запропонував шістьох афроамериканців зі схожими рисами, зокрема дредами та бородою, детективи додали фотографію Вільямса до набору знімків, які потім збиралися показати жертві для опізнання.

Цей метод також вважається ненадійним через те, що людська пам'ять може бути неточною і створювати фальшиві спогади. Судячи з усього, щось схоже сталось і цього разу, оскільки жертва, перед якою невідомий чоловік раніше публічно оголився, впевнено вказала саме на Вільямса. Тепер поліція отримала привід для його затримання.

Чоловіка виявили поліцейські у бруклінському метро та доставили на допит. Правоохоронців не збентежило те, що підозрюваний не був візуально схожий на особу з відео, а на момент скоєння злочину перебував за майже 20 кілометрів від місця події. Крім того, він був на 20 сантиметрів вищим і приблизно на 32 кілограми важчим, ніж справжній злочинець.

Тревіс Вільямс провів у в'язниці понад дві доби. Згодом звинувачення проти нього були зняті, а розслідування справи про публічне оголення взагалі закрили.

Ризики сучасних технологій

Ця історія демонструє, наскільки небезпечним може бути використання сучасних технологій правоохоронцями для швидкого розкриття справ. Цей випадок – не поодинокий. Через використання систем розпізнавання облич постійно затримують не тих людей. З огляду на це, правозахисники наполягають на введенні суворих правил, що регулюють застосування подібного програмного забезпечення, однак великих успіхів у цьому вони поки не мають.

Використання сучасних технологій, зокрема штучного інтелекту та систем розпізнавання облич, дійсно відкриває нові можливості для боротьби зі злочинністю. Однак ці інструменти несуть значні ризики, пов'язані з технічними недоліками, упередженістю та можливістю зловживань.

Однією з головних проблем є те, що системи ШІ можуть відтворювати та навіть посилювати наявні в суспільстві упередження. Якщо дані, на яких навчається алгоритм, містять диспропорції (наприклад, більше даних про злочини в районах з переважно етнічними меншинами), ШІ може почати асоціювати певні групи людей зі злочинністю. Це призводить до надмірної уваги поліції до цих спільнот, що створює замкнене коло: більше патрулювання веде до більшої кількості арештів, що, своєю чергою, "підтверджує" для алгоритму правильність його упереджених прогнозів.

Технологія розпізнавання облич не є бездоганною і може давати збої через низку факторів:

• Низька якість зображення. Погане освітлення, низька роздільна здатність або невдалий ракурс камери значно знижують точність розпізнавання.
• Часткове закриття обличчя. Такі елементи, як окуляри, маски, шарфи або навіть борода, можуть стати перешкодою для коректної ідентифікації.
• Зміни в зовнішності. Алгоритми можуть не впізнати людину, якщо її зовнішність змінилася з часом.

Так звані хибно-позитивні результати, коли система може помилково ідентифікувати невинну людину як підозрюваного, широко висвітлюються в ЗМІ.

• Наприклад, у The New York Times можна знайти історію про трьох заарештованих осіб, які опинилися за ґратами після невдалих збігів розпізнавання облич. Поліція шукала викрадачів годинників у січні 2020 року в Детройті. Система зіставила нечітке зображення з камери спостереження з фотографіями невинних людей. Через це один із чоловіків провів під вартою 30 годин. Цей випадок вважається першим задокументованим помилковим арештом через технологію розпізнавання облич.
• У листопаді 2022 року чоловіка з Джорджії заарештували за звинуваченням у крадіжці дорогих сумок у Луїзіані, де він ніколи не був. Єдиним доказом проти нього був результат роботи системи розпізнавання облич. Рід провів у в'язниці шість днів, перш ніж ордер на арешт скасували. Пізніше він отримав компенсацію в розмірі 200 000 доларів.
• Серед інших випадків також можна згадати арешт вагітної жінки, Порші Вудрафф, яку звинуватили у викраденні автомобіля.
• Наразі лише у США відомо щонайменше про сім підтверджених випадків помилкової ідентифікації. Скільки таких по всьому світу, невідомо.