Как соцсети манипулируют массами

"То, что вы читаете в прессе в спокойные новостные дни, формирует ваши взгляды на свою страну и соотечественников. Именно из не захватывающих новостей вы смотрите на мир и определяете истинную ценность людей и событий, правильно или нет."

Эдвард Л. Бернейс

Согласно Эдварду Бернейсу, которого считают отцом профессии пиарщиков, мы строим картину мира из того, что подается нам как обыденное. То есть, не новости об инновационных и более совершенных моделях нейросетей, не известия о падении режима в Сирии и не известия о новых выборах в Германии плетут в ткань реальности в наших головах. Точнее, эти новости также играют важную роль, но не в том смысле и не в той мере, как это принято представлять.

Пример того, как работает описанный Бернейсом принцип:

Влиятельный украинский портал о технологиях пишет о том, что западный стартап по разработке нейросетей в качестве рекламного хода предложил работодателям отдать предпочтение ИИ вместо найма новых людей. Новость подана в таком ключе:

Вот девиз рекламной кампании, вот фотографии билбордов. Они вызвали много критики и недовольства, гендиректору приходится защищать такое решение.

Когда обычный человек просмотрит новость, уже спустя секунды из его памяти исчезнет и название стартапа и имя гендиректора. Даже факт новости затрется. В сухом остатке получаем лишь установку: заменять живых людей ИИ – это плохо. Ведь в новости только и сказано, что кампания встретила критику и гендиректор её защищал. Эта установка резонирует благодаря страхам обывателей, потерять работу в связи с прогрессом – что я буду делать, если мою профессию автоматизируют.

Наша картина мира это арабская вязь из установок и штампов, которые навязываются в рамках определенных дискурсов.

Вот еще пример распространенной установки. Когда двое обывателей общаются о предстоящих выборах, нередко звучит такая фраза: “Я конечно проголосую за кандидата Х, но какая разница, ничего ж не поменяется”. Установка: “От нас обычных людей ничего не зависит, потому не нужно предпринимать усилий”. Есть даже популярная поговорка, которая иллюстрирует установку: “Голосуй не голосуй — всё равно получишь буй” (ну вы поняли).

Картину мира, через которую можно управлять массами, создают установки, формируемые обыденностью – в разговорах, новостях, социальных сетях. Возникает вопрос: каким образом можно активно формировать картину мира обывателей? Для этого нужно доносить информацию в нужном дискурсе, подсвечивая установки в позитивном или негативном ключе.

С развитием информационных технологий (печатный станок, радио, ПК, айфон) этот процесс стал более эффективным. Однако с появлением современных социальных сетей возможность формировать картину мира через обыденные взаимодействия увеличилась кратно, и получает еще более действенный рывок благодаря развитию нейросетей.

Еще десять лет назад оставаться в тени было сложнее. Для формирования дискурса приходилось прибегать к явной цензуре: не приглашать спикеров на телеканалы, не освещать определенные темы в прессе. Сегодня “дилеры” общественного мнения получили возможность динамически плести дискурс из установок, будучи невидимыми.

Справляться с цензурой и продвигать контр-дискурсы может быть сложно, но у людей было немало времени, чтобы приспособиться и разработать методы противодействия. Более того, само наличие цензуры, выраженной в запрете обсуждения определенных тем, часто имеет обратный эффект: в зонах свободного обмена информацией эти темы обсуждаются более интенсивно.

В современных условиях без классической цензуры запретных тем нет. Теперь есть темы, которые просто не будут услышаны.

Алгоритмы социальных сетей – ультимативный инструмент формирования дискурса и картины мира

Кто сейчас может сказать, что понимает, как работают социальные сети? Например, если у меня 1000 фалловеров в X, увидят ли все они мой новый твит? Ответ – это зависит от того, как сработает алгоритм.

Алгоритм – это магическое слово, которое часто употребляют в разговорах о социальных сетях. Многие уверенны, что понимают, как работают алгоритмы. На самом деле, этого не понимает вообще никто. Я уверен, что даже сотрудники этих самых соцсетей, за исключением программных инженеров и топ менеджмента, до конца не понимают, как работает их алгоритм.

Несколько принципов, которые вряд ли поменяются в ближайшие годы:

Никто не знает, как работают алгоритмы соцсетей.

Никто не знает, когда они обновляются.

Никто не знает, какие установки у авторов алгоритмов.

Вот вариант стандартного описания алгоритма любой соцсети: наш алгоритм направлен на то, чтобы показать контент, который будет максимально релевантным пользователю, учитывая историю взаимодействий с прошлыми публикациями и другую информацию о пользователе.

При этом, если вы попытаетесь узнать как алгоритм работает у любой выбранной соцсети, в деталях – обнаружите очень мало данных. Пользователи X, Facebook, TikTok и пр. – не имеют абсолютно никакой информации о практических механизмах

работы алгоритма. Какие цели ставятся инженерам, по каким принципам и установкам алгоритм настраивается – об этом ничего не известно. Без утечек данных мы бы даже не знали, как выглядит пример кода, управляющего алгоритмом.

Как подмечено в первой части этой статьи, на картину мира влияют не яркие заголовки и новости, а то, с чем человек сталкивается в обыденной жизни.

Пользуясь этим принципом Facebook, X, TikTok, Instagram и прочие могут в любой момент обновить алгоритмы и начать продвигать нарративы, дискурсы, установки, просто больше или меньше показывая (подсвечивая или затемняя) контент.

Скажем, если бы соцсеть захотела бороться с курением, можно повысить важность постов, где курение упоминается в негативном ключе. Представьте тысячи твитов, ни один из которых не в тренде, но каждый набирает на 30% больше взаимодействий чем в среднем другие сообщения тех же пользователей. Больше людей увидят твиты, а их авторы сознательно или несознательно захотят активнее выступать против курения. При этом, с точки зрения обывателя, ничего не изменилось, алгоритм по-прежнему всего лишь показывает контент, который лучше всего резонирует с читателем.

Если обывателю раз в неделю будут попадаться истории о том, как двоюродный брат случайного инфлюенсера на 489 фаловеров бросил курить, и сразу почувствовал себя здоровее и начал больше зарабатывать – обыватель сам с меньшей вероятностью захочет курить.

Пример обновления алгоритма соцсетей

В начале большой войны России против Украины, я активно писал в соцсетях – преимущественно в LinkedIn. Естественно, в основном обсуждал войну, и мои посты набирали бОльшие охваты, чем в среднем до войны - просто потому что тема была горячей.

В какой-то момент мой очередной пост о войне исчез через несколько минут после публикации. Я обратился в службу поддержки, в которой ответили, что посты обычно удаляют из-за нарушения правил использования сервиса. Мне не говорили, что я что-либо нарушил, я просто получил обтекаемую формулировку “пост удаляется, если что-то нарушено”. На мои просьбы уточнить, что именно нарушено, чтобы избежать подобных ситуаций в будущем, я только получал ссылку на правила использования сервиса, без конкретики.

Через несколько дней пост вернулся на страницу, а я получил извинения – якобы мой пост был удален по ошибке. Хотя публикация вернулась, у неё был намного меньший охват, чем в среднем до этого. Еще одна публикация о войне в Украине через неделю получила еще меньший охват, чем предыдущая.

У меня нет инсайдов о том, что происходило внутри LinkedIn в первые недели или месяцы войны, но на снове этой ситуации можно предположить возможный сценарий событий. Даже если гипотеза не верна, с её основе можно сделать несколько выводов о том, как может поступать соцсеть и мы об этом просто не узнаем.

Гипотеза о том, что было в LinkedIn в первые недели войны

Март 2022 года. Война уже несколько недель в тренде. Руководство LinkedIn хочет, чтобы пользователи вместо войны снова начали обсуждать как должно выглядеть резюме идеального кандидата и делились мотивационными цитатами. Принимается решение заблокировать обсуждение войны, удаляя посты на эту тему. В ходе выполнения решения команда LinkedIn приходит к выводу, что удалять посты – слишком грубый метод. Станет очевидно, что в LinkeIn действует цензура, с одной стороны будет много недовольных, с другой стороны цензуру начнут обходить – например, писать без использования слов “война”, “вторжение”, чтобы обхитрить фильтры контента.

По ходу дела принимается решение применить более мягкий метод искоренения ненужных тем – понижать важность постов о войне внутри алгоритма. Со стороны пользователя создаётся впечатление, что посты о войне просто неинтересны другим. И нет необходимости что-либо блокировать.

Вы можете сказать, что эта гипотеза - плод моих фантазий, и просто посты надо было более интересными писать. Но суть от этого не меняется – LinkedIn могла изменить алгоритм, или могла ничего не менять, МЫ НЕ МОЖЕМ НИКАК ЭТО УЗНАТЬ НАВЕРНЯКА. Алгоритм для пользователя социальной сети – черный ящик в черной комнате. Он может менять форму, их может быть несколько, его могут менять по несколько раз в день, мы об этом не узнаем и можем только догадываться по очень косвенным признакам.

К слову, код алгоритмов X около года назад утёк в сеть, и там нашли доказательства, что тема войны России с Украиной затемняется в соцсети.

Еще несколько историй, которые ничего не доказывают, потому что в этой теме ничего не возможно доказать

Однажды я заметил аномалию в Twitter – соцсеть тогда уже принадлежала Илону Маску, но еще имела старое название. Перед очередными выборами в парламент США мне один за другим попадались твиты топовых политиков одной из партий – при том что я никогда не взаимодействовал с аккаунтами этих людей, и в общем не следил за американской политикой.

В порыве любопытства я обратился в службу поддержки и спросил, почему так могло выйти. Специалисты Twitter отвечали шаблонными фразами, описывая работу алгоритмов в общих чертах. Я задал много вопросов, включая то, были ли изменения в алгоритмах за последние месяцы, которые могли повлиять на мои рекомендации. После ряда уклончивых (не)ответов служба поддержки просто закрыла мой тикет в одностороннем порядке.

Занималась ли Twitter пропагандой на выборах – это невозможно доказать. В этом и заключается суть незримой силы алгоритма, как инструмента.

В шоу Last Week Tonight недавно был выпуск, посвящённый TikTok, в нем мне особенно запомнился яркий пример результатов работы алгоритма. В одном из сегментов Джон Оливер предъявляет тренд, в котором молодые девушки признаются, что алгоритм соцсети понял, что они имеют нетрадиционную сексуальную ориентацию раньше их самих.

Возможно, алгоритм никогда не был специально или случайно настроен на то, чтобы “раскрывать” сексуальные предпочтения людей. Но без утечки данных узнать об этом невозможно.

Снимаем шапочку из фольги

Как обычно бывает с инструментами коммуникации – алгоритм, это не магия. Чтобы добиться через него существенных результатов, нужно провести много работы и применять разные приемы комплексно. Пользуясь TikTok или Instagram вы не станете обязательно ЗОШ-активистом, республиканцем, бисексуалом или фанатом красочных танцев, если этому не поспособствует ряд других факторов.

Я не призываю кого-либо удалять аккаунты в социальных сетях. Ни один человек не живет в вакууме и, даже если вы пользуетесь только мессенджерами и общаетесь там только в микрогруппах, на ваши установки влияют другие люди, которые сами вероятно пользуются соцсетями, а также смотрят телевизор, слушают инфлюенсеров в Ютубе.

Установить, на что направлен дискурс можно наблюдением и размышлением в ключе “к чему меня подталкивают”. Тут как нельзя кстати библейская присказка “По плодам их узнаете их” (Матф. 7:16). Если твит, пост, тред, или видео вас “зацепили” – это в первую очередь повод не поставить лайк, а задуматься: какие чувства это вызывает, “кого или что меня подталкивают любить или ненавидеть?”.

Эти размышления часто приводят к очень любопытным открытиям – иногда о себе, но чаще об актуальных в обществе установках.