Украину раскритиковали за использование ИИ Clearview AI для опознания тел оккупантов

В течение недели после нападения России на Украину, наша страна получила возможность использовать американский программный комплекс Clearview AI, который содержит в себе базу из 20 млрд фото людей со всего мира. Инструмент понадобился для того, чтобы ВСУ могли идентифицировать пленных, раненых и погибших военных из РФ. Результаты работы этой программы на основе искусственного интеллекта, действительно поражают – мы все видели огромное количество опознанных оккупантов через соцсети. Однако правозащитники категорически против использования Clearview AI. Почему так, — рассказывает Фокус.

Что не так с программой Clearview AI

Вокруг Clearview AI неоднократно вспыхивали скандалы. Издание Wired сообщает, что госорганы Италии, Франции, Великобритании и Австралии потребовали от разработчиков Clearview AI удалить из базы фотографии своих граждан, хотя насколько выполнено такое требование, не известно. Тем не менее, множество судебных исков против Clearview AI не мешают компании успешно действовать на рынке и продавать свой продукт правоохранительным структурам и спецслужбам по всему миру.

Критике подвергается утверждение компании о том, что программа способна опознавать лица погибших людей, "получивших большие повреждения", но доказательств этим словам нет. Судебный антрополог Луис Фондебридер, работавший в горячих точках по всему миру, говорит, что технологии распознавания лиц очень полезны, но никогда не смогут дать 100-процентной гарантии, по сравнению с классическим и проверенным тестом на ДНК. "Не существует волшебных решений для идентификации", — подчеркивает он.

Права мертвых и живых

В свою очередь различные правозащитные организации, такие как Amnesty International и Electronic Frontier Foundation утверждают, что использование Министерством обороны Украины программного комплекса Clearview AI хоть и является необходимостью в условиях войны, но несет риски нарушения прав человека в независимости от того, жив человек или мертв, и на чьей стороне он воюет.

Кроме того, правозащитники критикуют несовершенство ПО. При распознавании лиц погибших, Clearview AI иногда дает сбой и неправильно идентифицирует личность. Родные российских солдат видят сообщения на сайтах и в телеграм-каналах о гибели их родственника, а позже выясняется, что он жив. Это наносит родственникам "психологическую травму", говорят правозащитники. С моральной точки зрения, нарушением прав и живых, и мертвых является то, что данные о личности погибших находятся в свободном доступе в Интернете.

С другой стороны, согласно нормативам ООН и Красного Креста опознание, информирование родственников и достойное погребение жертв войны любой из сторон является императивом в области прав человека, что утверждено во многих международных документах. Забота о мертвых является одной из самых древних человеческих практик, особенно если речь идет о погибших в ходе войн. Так было во все времена, утверждает историк Томас Лакер.

Clearview AI как повод для тотальной слежки

Использование ИИ от Clearview AI в качестве необходимой меры для распознавания погибших россиян теневым образом легализирует тотальную слежку и сбор данных о человеке, утверждают правозащитники из Surveillance Technology Oversight Project и Immigrant Defense Project. Они считают, что сбор персональных данных граждан, в том числе многочисленные фото, "усиливает расистскую полицейскую деятельность, угрожает праву на протест и может привести к неправомерному аресту". Впрочем, в тоталитарных государствах давно действуют подобные системы собственной разработки, а в Китае даже введен "социальный рейтинг".

Тем не менее, стоит помнить, что после того, как вы начали пользоваться Интернетом и смартфоном, все ваши данные, — фото, отпечатки пальцев, место жительства, маршруты перемещений и копии документы, — давно находятся на серверах Google, Apple, Microsoft, Facebook, Telegram, Viber и т.д., или в Китае (если используете смартфоны китайских брендов). Сбора данных избежать сложно, однако не стоит разбрасываться своими персональными данными направо и налево в Сети. Просто нужно четко понимать, что и куда вы отправляете и какому сервису доверяете свои персональные данные.

Впрочем, самые продвинутые правозащитники, по большому счету, обеспокоены тем, что государства в скором времени с помощью ИИ-алгоритмов соберут полные базы о каждом члене общества: включая отпечатки пальцев, пример голоса, фото и даже ДНК. И тогда, в недалеком будущем, роботизированные системы и дроны смогут лично охотиться "за неугодными", как в фантастических романах-утопиях.

Ранее Фокус писал, что в Украине создали приложение для проверки людей на предмет связи с "русским миром".