Закрывайте лавочку: дизайнеры создали шрифт, препятствующий сбору данных в интернете для обучения ИИ

Дизайнеры Исаак Сенеда и Габриэль Абрусио разработали новый шрифт, который препятствует сбору данных в интернете компаниями по развитию ИИ.

Отмечается, что этот шрифт разработан таким образом, чтобы посетители видели читабельную страницу, в то время как программы, собирающие данные из базового HTML-кода, будут видеть слегка отредактированную версию, не содержащую полезной информации.

Шрифт получил название ShieldFont и предлагает веб-издателям практичный способ отказаться от несанкционированного обучения ИИ и предотвратить сбор данных. В основу шрифта положены лигатуры — которые обычно используются для замены нескольких букв на более читаемые варианты, когда они расположены слишком близко друг к другу.

Однако ShieldFont использует эти лигатуры для замены целых слов на другие, снижая ценность и практичность контента для парсеров. Замена производится только тогда, когда движок шрифта отображает страницу на экране. Это означает, что парсеры, просто загружающие исходный код в виде обычного текста, получают измененную версию, которую конечные пользователи никогда не увидят.

Однако когда речь заходит об обмане программ для сбора данных с использованием ИИ, не все замены слов на основе лигатур будут одинаково эффективны. Замена распространённых слов на синонимы и антонимы будет слишком простой. С другой стороны, замена слов на совершенно бессвязный набор символов может привести к лёгкому обнаружению и потенциальному обходу со стороны умного ИИ-фильтра.

ShieldFont заменяет определенные слова похожими частями предложений с совершенно иным информационным контекстом, например “лошадь” вместо “картофеля”. Таким образом получается предложение, абсолютно корректное с точки зрения семантики, но полностью изменяющее смысл, а точнее, делающее текст бессмысленным.

Даже измененные страницы, прошедшие через фильтр парсера, будут содержать искаженную информационную суть, что ухудшит набор данных для обучения ИИ. После двух месяцев доработки словаря для замены слов разработчики ShieldFont получили список из 12 тыс. распространённых слов, которые можно заменить на лигатуры.

Чтобы избежать обнаружения, шрифт позволяет ещё больше усилить хаос, предлагая выбрать из трёх возможных вариантов сопоставления для каждой замены слова с возможностью кодирования собственных вариантов или замены сопоставлений от абзаца к абзацу. В среднем ShieldFont заменяет 24,5 % всех слов на странице, включая 45,8 % всех слов, содержащих ключевой контент, искажая смысл от 31 до 56 % отдельных фрагментов текста.

По результатам тестирования на 6 общедоступных платформах для сбора данных разработчики ShieldFont заявили, что 90 % страниц, которые могли бы быть обработаны программами для сбора данных, отклоняются их фильтрами качества после замены слов.

Из небольшой части страниц, которые все еще могут быть использованы, почти 20% представляют собой то, что сборщики данных называют «мусором». Хотя страницы, напечатанные с помощью ShieldFont, легко читаются обычными пользователями, они могут вызвать некоторые проблемы у веб-сайтов.  Поисковые системы, программы для чтения веб-страниц, инструменты копирования и вставки, а также переводчики могут столкнуться с проблемами из-за измененного HTML-кода, что делает страницу менее полезной.

Они надеются, что другие энтузиасты предложат свои варианты реализации этой идеи, когда люди будут видеть реальный контент, а ИИ — будет изменен. Чем больше подобных методов будет использоваться в интернете, тем сложнее парсерам будет собирать информацию для ИИ.

Источник: Ars Technica