Система распознавания лиц: как технология повлияет на свободу

Представьте, что любой человек, вооруженный iPhone, может получить массу информации о вас. Например, использовать аватарку из Facebook или Instagram, чтобы найти все другие ваши фотографии, опубликованное публично в Интернете.

Этот сценарий кажется возможным благодаря компании Clearview AI. Расследование New York Times в начале этого года показало, что стартап собирал фотографии в Интернете для создания обширной базы данных по распознаванию лиц, пишет Kuna. Сначала в Clearview AI утверждали, что их инструмент предназначен только для использования правоохранительными органами и несколькими частными компаниями. Позже выяснилось, что компания постоянно искажала как масштабы своей работы, так и широту своих стремлений.

Недавно стало известно, что Clearview AI скоро получит патент США на свою технологию распознавания лиц. Это может стать концом конфиденциальности в том виде, в каком мы ее знаем.

Как работает технология

Вы делаете снимок человека, загружаете его и видите общедоступные фотографии этого человека со ссылками на то, где они были опубликованы. Основу системы составляет база данных из более чем 10 миллиардов изображений с Facebook, YouTube, Venmo и миллионов других сайтов. Эта технология выходит далеко за рамки всего, что когда-либо создавалось правительством США или гигантами Кремниевой долины.

Полицейские управления имеют доступ к системам распознавания лиц уже почти 20 лет. До недавнего времени они ограничивались поиском изображений, предоставленных правительством. В последние годы точность алгоритмов распознавания лиц повысилась. Компания Amazon, например, разработала продукт Recognition, позволяющий создавать программы распознавания лиц для любой базы данных изображений.

Основатели Clearview пошли дальше и усовершенствовали алгоритм. В результате получилась система, которая использует то, что называют «современной нейронной сетью». Технология преобразовывает все изображения в математические формулы или векторы, основанные на геометрии лица. Clearview создала обширный каталог, в котором все фотографии с одинаковыми векторами сгруппированы по «районам». Когда пользователь загружает фотографию лица в систему Clearview, она преобразует лицо в вектор, а затем показывает все скопированные фотографии, хранящиеся в окрестности этого вектора и ссылками на сайты, с которых были получены эти изображения.

Большой брат

До сих пор технология, которая легко идентифицирует каждого по лицу, была табу из-за радикального разрушения конфиденциальности. Технологические компании, способные выпустить такой инструмент, воздерживались от этого. В 2011 году председатель Google сказал, что это единственная технология, которую компания сдерживала, потому что ее можно было использовать «в плохих целях». В некоторых крупных городах, например, Сан-Франциско, полиции запретили использовать технологию распознавания лиц.

В 2019 году более 600 правоохранительных органов начали использовать Clearview. Инструмент мог идентифицировать активистов на акциях протеста или незнакомца в метро, раскрывая не только их имена, но и то, где они жили, чем занимались и кого знали. Clearview также предоставила лицензию на приложение по крайней мере нескольким компаниям в целях безопасности.

В феврале 2020 года полиция штата Индиана начала эксперименты с Clearview. Они раскрыли дело в течение 20 минут после использования приложения. Двое мужчин подрались в парке, и один выстрелил другому в живот. Прохожий записал преступление на телефон, так что у полиции было статичное изображение лица бандита. Они сразу же нашли совпадение: мужчина появился на видео, которое кто-то разместил в социальных сетях, и его имя было включено в подпись к видео.

Нарушение прав человека?

Clearview уже давно вызывает критику со стороны защитников конфиденциальности, которые заявляют, что оно использует лица людей без их ведома или согласия. Система также несет в себе дополнительные риски, поскольку правоохранительные органы загружают конфиденциальные фотографии на серверы компании, способность которой защищать свои данные не проверена.

Австралия и Великобритания обвинили Clearview в нарушении их законов о конфиденциальности и защите данных. Инструмент также разозлил крупные компании, работающие в социальных сетях. Twitter, Google, YouTube, LinkedIn и Venmo в прошлом году разослали письма с требованием, чтобы Clearview прекратил собирать фотографии и данные пользователей со своих платформ. Facebook, который недавно объявил о закрытии собственной системы распознавания лиц, попросил Clearview сделать то же самое.

Несмотря на это, управление по патентам и товарным знакам США уже направило Clearview «уведомление о разрешении». Это означает, что патент будет одобрен после уплаты компанией административных сборов. Патент охватывает «методы предоставления информации о человеке на основе распознавания лиц» Clearview, включая его «автоматический поисковой робот».

Приватность vs безопасность

Споры на тему, как далеко можно зайти, прикрываясь мерами безопасности, идут уже не первый год. Технологии социального мониторинга стремительно развиваются и становятся частью нашей повседневной жизни. Совершенно очевидно, что препятствовать таким системам невозможно, поскольку они имеют поддержку со стороны правоохранительных органов и государственных служб. Единственное, что мы можем сделать, это тщательно следить за деятельностью таких компаний, как Clearview, и публично говорить о возможных нарушениях прав человека.