Theguardian: программист объявил войну онлайн-террору

Платформы, такие как You.

Tube и Facebook, являются основным и активным компонентом радикализации молодых людей, пишет The Guardian.

Эти организации стремятся уничтожить контент, нарушающий их правила, и наращивают ресурсы для усилий по выявлению и удалению опасного материала до того, как он причинит вред.

Но этого недостаточно.

Поэтому такие компании рискуют стать соучастниками в невинных смертях.

Они могут удалить экстремистский контент и пользователей со своих платформ, но не делают этого по каким-то непонятным причинам.

Важно отметить, что это не вызвано непреодолимыми техническими проблемами.

Хотя идея о том, что людей кормят теориями заговора, не нова, то, что мы видели в последнее десятилетие, - это "абсолютный взрыв" в доступности контента и сетей.

Прошли те дни, когда организованная враждебная мобилизация проводилась в тихих залах пабов.

Такие платформы, как Facebook и You.

Tube, разработаны для обеспечения доступа к контенту и интересным людям.

Конечно, это здорово, если вы увлекаетесь автомобилями или Star Trek.

Но, как мы ясно видели, те же точные рекомендации работают так же хорошо, если вы увлекаетесь экстремистским контентом, связанным со злодеянием в Крайстчерче, или пропагандой против вакцин, которая способствует тому, что дети поддаются легко предупреждаемым болезням..

Tube, в частности, необычен тем, что постоянно рекомендует то, что он считает релевантным контентом.

Например, зарекомендовав себя антирасистским борцом, в истории поиска которого нет ничего, что указывало бы на интерес к верованиям плоской Земли или к теории заговора Сэнди Хука, You.

Tube с радостью постоянно показывает этот контент.

Теперь представьте: есть недовольный и потенциально уязвимый молодой человек, имеющий доступ к полуавтоматическому оружию или контактам и влияниям, которые могут помочь ему сконструировать взрывное устройство.

Для такого человека этот постоянный поток ненавистных средств массовой информации и дезинформации может показаться интересным, потом понятным, а затем – надежным.

Учтите также, что этот пользовательский контент идет рука об руку с нетерпимостью и нормализованной ненавистью, которую мы наблюдаем в основных средствах массовой информации.

Подозреваемого в Крайстчерче Daily Mirror на первой странице описали как "ангельского мальчика, превратившегося в убийцу", в отличие от характеристики "Isis-маньяка" - экстремиста-джихада, убившего аналогичное количество людей в Орландо.

Благодаря такому двойному стандарту, столь заметному в традиционных публикациях, самая экстремальная риторика, созданная пользователями, приобретает подразумеваемую легитимность..

Многие спрашивают: что могут делать платформы? Там так много контента, а модерирование так сложно, верно? Нет.

Платформы могут многое, но не делают этого.

Эти сети создали лучшие умы в современной разработке программного обеспечения.

Вот пример: You.

Tube способен анализировать миллиарды видео и обнаруживать крошечный фрагмент музыки среди шума, правильно идентифицировать его и помечать для лицензирования.

Теперь рассмотрите богатство информации, доступной для You.

Tube, прежде чем даже взглянуть на содержание самого видео: заголовки, описания, теги, пользователи, плейлисты, лайки и дизлайки.

Программисты-любители регулярно экспериментируют с этим, чтобы делать интересные вещи всего за несколько дней или даже часов - это элементарная обработка данных, а не ракетостроение.

Шаг вперед от этого заключается в том, чтобы начать смотреть на содержание самого видео: мы находимся в золотом веке достижений в области машинного обучения и искусственного интеллекта, и, тем не менее, очевидно, что в настоящее время ничего из этого не используется для наведения порядка.

Конечно, полностью выявить опасный контент нереально, но большую часть можно заблокировать и уничтожить.

Каждый экстремистский пост и видео, которые не видит уязвимый молодой человек, - это еще одна маленькая победа для всех нас.

И, конечно же, идентификация контента идентифицирует пользователей, а идентификация пользователей идентифицирует сети.

Мгновенного решения не существует, но уменьшение количества подобных материалов повышает уровень безопасности.

А для тех, кто кричит о цензуре, никто не нарушает свободу слова.

Свобода слова не означает, что любая речь приветствуется, как и не защищает вас от того, кто показывает вам дверь.

Есть предположение, что удаление этого контента с основных платформ станет причиной ухода пользователей: да, появляются много разрозненных и развивающихся "других мест" (подозреваемый в Крайстчерче был членом пресловутой 8chan), но они ни в какое сравнение не идут с алгоритмически управляемыми механизмами рекомендаций, которые указывают на чудовищную библиотеку контента и сетей людей.

Среднестатистический молодой человек, подверженный риску, не входит в даркнет и не посещает относительно непонятные, непостижимые форумы, он смотрит You.

Несмотря на очевидное свидетельство того, что эти огромные платформы являются ключевыми структурами, на которых строится множество токсичных онлайн-культур, ничего существенного не меняется.