Фабрика ненависти

Глобальный сбой в работе Facebook сделал эту соцсеть главным фигурантом новостей. И он же отвлек внимание от слушаний в Сенате, где давала показания бывшая сотрудница компании Фрэнсис Хауген. Причем, ее признания способны навредить Марку Цукербергу куда больше, чем недавний шатдаун.

Фрэнсис Хауген проработала в компании Facebook два года. Она была ведущим менеджером по продукту и, по ее словам, в какой-то момент политика компании стала вызывать у нее сомнения. В итоге она скопировала десятки тысяч страниц внутренней документации – чтобы затем выложить их в открытый доступ.

Эти документы пролили свет на множество злоупотреблений. Например, на существование VIP-пользователей, которым разрешено нарушать правила и не получать за это бан. На слабую модерацию в региональных офисах, из-за чего в ряде стран криминальные синдикаты используют Facebook в преступных целях. Кроме того, стало ясно, что компания не пытается эффективно противостоять антипрививочной пропаганде – из-за чего миллионы людей по всему миру оказываются под угрозой.

А еще стало известно о том, что алгоритмы фейсбука настроены таким образом, чтобы сталкивать людей лбами и вызывать негативные эмоции. В эфире передачи „60 минут“ на CBS News Фрэнсис Хуаген рассказала о том, что с помощью телефона пользователь способен увидеть около 100 единиц контента соцсети в течение пяти минут. При этом у компании есть тысячи вариантов контента, которые она может вам показать.

Но, по словам экс-сотрудницы компании, алгоритмы Facebook выстроены таким образом, чтобы показывать вам контент, вызывающий ненависть и гнев. Потому что именно он вызывает у людей эмоции. И чем больше контента вы потребляете, чем больше эмоциональных реакций вы проявляете – тем больше соцсеть зарабатывает. В то время как спокойный, вдумчивый и взвешенный контент получает куда меньшую индексацию и пользователи видят его значительно реже.

Фактически, речь идет о том, что алгоритмы фейсбука кормят пользователей неврозами – чтобы провоцировать реакцию. Но даже если угроза санкций заставит Марка Цукерберга отрегулировать свое детище – это не решит всех проблем. Нам выпало жить в эпоху соцсетей и у этого есть последствия.

В конце концов, именно соцсети позволили фрикам по всему миру объединяться. Лет сорок назад сторонник теории плоской Земли был обречен на одиночество. Он мог подозревать окружающих в лицемерии или глупости, мог быть уверен, что астрономы и учебники врут – а себя считать одиноким пророком. Но именно интернет и соцсети подарили ему возможность находить единомышленников, объединяться с ними в группы и создавать политический запрос. На который в какой-то момент стали откликаться политики.

Вдобавок, медиарынок перестал быть рынком продавца, а стал рынком покупателя. Люди не рациональные создания, а рационализирующие. Они сперва делают выбор, а затем ищут подтверждение, что поступили правильно. В результате, медиа стали подстраиваться под этот запрос. Они перестали усложнять представление о реальности для своей аудитории. Вместо этого они стали своей аудитории подыгрывать. Убеждая своих зрителей и читателей в том, что они – носители правды, справедливости и единственно верной точки зрения. Диалог закончился – и мы стали жить в ситуации множества монологов.

И нет ничего удивительного в том, что сегодня те же Соединенные Штаты всерьез готовы рассуждать о правилах для соцсетей. Да, это частный бизнес. Да, речь идет о коммерческих компаниях. Но в ситуации, когда треть взрослого населения планеты является пользователями одной соцсети – непрозрачность алгоритмов может создавать риски.

Документы, которые опубликовала Фрэнсис Хауген, довольно иллюстративны. Например, в Мьянме, где 90% населения буддисты, в местном сегменте Facebook было множество призывов к расправам над народом рохинджа. Эта этническая группа живет в Мьянме и исповедует ислам, но до 2015 года у компании в регионе был лишь один модератор, который владел бирманским языком. А потому соцсеть в этой стране превратилась в рассадник ненависти.

Впрочем, постсоветское пространство – не исключение. С самого начала гибридной войны Россия активно пытается работать с настроениями украинских граждан – в том числе, при помощи социальных сетей. И до недавнего времени дефицит модераторов было принято объяснять тем, что наш рынок для социальной сети неприоритетный, а потому у компании нет возможности уделять ему много внимания.

Такое объяснение, впрочем, никак не снижает остроту проблемы. В момент появления соцсетей мы полагали, что это будет пространство общения всех-со-всеми. Что это будет площадка для обмена идеями и для дискуссий. Но оказалось, что соцсети по замыслу своих создателей могут превратиться в гладиаторскую арену. А пока собственники компании зарабатывают на наших неврозах – другие крупные игроки используют людскую доверчивость, чтобы отстаивать свои интересы. Например, убеждая всех в том, что жертва насилия виновна в случившемся. Или в том, что украденное принадлежит грабителю лишь потому, что ему так захотелось.

Вероятно, дискуссия об алгоритмах соцсетей должна была начаться несколько лет назад. Но лучше поздно, чем никогда.