Як соцмережі маніпулюють масами

Те, що ви читаєте в пресі у спокійні дні, формує ваші погляди на свою країну та співвітчизників. Саме із не захоплюючих новин ви дивитеся на світ і визначаєте істинну цінність людей і подій, вірно чи не вірно.

Едвард Л. Бернейс

Згідно з Едвардом Бернейсом, якого вважають батьком професії піарників, ми будуємо уявлення про світ на основі того, що подається нам як буденне. Тобто не новини про інноваційні та досконаліші моделі нейромереж, не повідомлення про падіння режиму в Сирії і не інформація про нові вибори в Німеччині формують тканину реальності в наших головах. Точніше, ці новини також відіграють важливу роль, але не в тому сенсі і не в такій мірі, як це зазвичай прийнято уявляти.

Приклад того, як працює описаний Бернейсом принцип:

Впливовий український технологічний портал публікує матеріал про те, що західний стартап, який займається розробкою нейромереж, у рамках рекламної кампанії запропонував роботодавцям надавати перевагу ШІ замість найму нових працівників.

Новина подана таким чином:

Ось девіз рекламної кампанії, ось фотографії білбордів. Вони викликали багато критики та невдоволення, і генеральному директору доводиться захищати таке рішення.

Коли звичайна людина прочитає новину, вже за кілька секунд з її пам’яті зникнуть і назва стартапу, і ім'я генерального директора. Навіть сам факт новини поступово розмиється. У сухому залишку отримуємо лише установку: замінювати живих людей ШІ — це погано. Адже в новині лише йшлося про те, що кампанія зіткнулася з критикою, а генеральний директор змушений був її виправдовувати. Ця установка резонує завдяки страхам пересічних людей: втратити роботу через прогрес — що я робитиму, якщо мою професію автоматизують?

Наша картина світу — це арабська в'язь із настанов та штампів, які нав'язуються в межах певних дискурсів.

Ось ще один приклад поширеної установки. Коли двоє пересічних людей обговорюють майбутні вибори, часто звучить така фраза: “Я, звісно, проголосую за кандидата Х, але яка різниця, все одно нічого не зміниться”. Установка: “Від нас, звичайних людей, нічого не залежить, тому не варто докладати зусиль”. Є навіть популярна приказка, яка ілюструє установку: “Голосуй не голосуй — все одно получиш буй” (ну ви зрозуміли).

Картину світу, через яку можна керувати масами, створюють настанови, що формуються буденністю — в розмовах, новинах, у соціальних мережах. Постає питання: як можна активно формувати картину світу пересічних людей? Для цього потрібно доносити інформацію в потрібному дискурсі, підсвічуючи настанови в позитивному або негативному ключі.

З розвитком інформаційних технологій (друкарський верстат, радіо, ПК, айфон) цей процес став ефективнішим. Однак із появою сучасних соціальних мереж можливість формувати картину світу через буденні взаємодії зросла багаторазово й отримує ще потужніший поштовх завдяки розвитку нейромереж.

Ще десять років тому залишатися в тіні було складніше. Для формування дискурсу доводилося вдаватися до явної цензури: не запрошувати спікерів на телеканали, не висвітлювати певні теми в пресі. Станом на сьогодні “дилери” громадської думки отримали можливість динамічно плести дискурс із настанов, залишаючись невидимими.

Справлятися з цензурою та просувати контрдискурси може бути складно, але у людей було достатньо часу, щоб адаптуватися і розробити методи протидії. Більше того, сама наявність цензури, яка виражається у забороні обговорення певних тем, часто має зворотний ефект: у зонах вільного обміну інформацією ці теми обговорюються більш інтенсивно.

У сучасних умовах без класичної цензури заборонених тем більше немає. Тепер є теми, які просто не будуть почуті.

Алгоритми соціальних мереж — це ультимативний інструмент формування дискурсу та картини світу

Хто сьогодні може сказати, що розуміє, як працюють соціальні мережі? Наприклад, якщо у мене є 1000 фоловерів у X, чи побачать вони всі мій новий твіт? Відповідь: це залежить від того, як спрацює алгоритм.

Алгоритм — це магічне слово, яке часто вживають у розмовах про соціальні мережі. Багато хто впевнений, що розуміє, як працюють алгоритми. Насправді цього не розуміє ніхто. Я впевнений, що навіть співробітники самих соцмереж, за винятком програмних інженерів і топменеджменту, не до кінця розуміють, як працює їхній алгоритм.

Кілька принципів, які навряд чи зміняться в найближчі роки:

Ніхто не знає, як працюють алгоритми соцмереж.

Ніхто не знає, коли вони оновлюються.

Ніхто не знає, які настанови у авторів алгоритмів.

Ось варіант стандартного опису алгоритму будь-якої соцмережі: наш алгоритм спрямований на те, щоб показати контент, максимально релевантний користувачу, враховуючи історію взаємодій із попередніми публікаціями та іншу інформацію про користувача.

Водночас, якщо ви спробуєте дізнатися, як алгоритм працює у будь-якій обраній соцмережі, у деталях — знайдете дуже мало даних. Користувачі X, Facebook, TikTok та інших платформ не мають абсолютно жодної інформації про практичні механізми роботи алгоритму. Які цілі ставляться інженерам, за якими принципами і установками налаштовується алгоритм — про це нічого не відомо. Без витоків даних ми навіть не знали б, як виглядає приклад коду, який керує алгоритмом.

Як зазначено у першій частині цієї статті, на картину світу впливають не яскраві заголовки та новини, а те, з чим людина стикається у повсякденному житті.

Використовуючи цей принцип, Facebook, X, TikTok, Instagram та інші платформи можуть у будь-який момент оновити алгоритми і почати просувати наративи, дискурси, установки, просто більше або менше показуючи (підсвічуючи чи затемнюючи) певний контент.

Наприклад, якщо соцмережа вирішила боротися з курінням, вона може збільшити важливість постів, у яких куріння згадується у негативному ключі. Уявіть тисячі твітів, жоден із яких не у тренді, але кожен отримує на 30% більше взаємодій, ніж у середньому інші дописи тих самих користувачів. Більше людей побачать ці твіти, а їхні автори свідомо чи несвідомо захочуть активніше виступати проти куріння. При цьому, з точки зору пересічного користувача, нічого не змінилося — алгоритм, як і раніше, просто показує контент, який найбільше резонує з читачем.

Якщо пересічний користувач раз на тиждень бачитиме історії про те, як двоюрідний брат випадкового інфлюенсера з 489 фоловерами кинув курити, одразу відчув себе здоровішим і почав більше заробляти, то цей користувач з меншою ймовірністю захоче курити сам.

Приклад оновлення алгоритму соцмереж

На початку великої війни Росії проти України я активно писав у соцмережах — переважно в LinkedIn. Звісно, здебільшого обговорював війну, і мої пости отримували більші охоплення, ніж у середньому до війни, просто тому, що тема була актуальною.

У якийсь момент мій черговий пост про війну зник через кілька хвилин після публікації. Я звернувся до служби підтримки, де мені відповіли, що пости зазвичай видаляють через порушення правил використання сервісу. Мені не сказали, що я щось порушив, лише надали розмите формулювання: “пост видаляється, якщо щось порушено”. На мої прохання уточнити, що саме було порушено, щоб уникнути подібних ситуацій у майбутньому, я отримав лише посилання на правила користування сервісом без жодної конкретики.

Через кілька днів пост повернули на мою сторінку, а я отримав вибачення — нібито публікація була видалена помилково. Хоча пост і повернувся, його охоплення було значно меншим, ніж у середньому раніше. Ще одна публікація про війну в Україні через тиждень отримала ще менший охоплення, ніж попередня.

У мене немає інсайдерської інформації про те, що відбувалося всередині LinkedIn у перші тижні або місяці війни, але на основі цієї ситуації можна припустити можливий сценарій подій. Навіть якщо ця гіпотеза не відповідає дійсності, вона дозволяє зробити кілька висновків про те, як може діяти соцмережа, і ми про це навіть не дізнаємось.

Гіпотеза про те, що відбувалося в LinkedIn у перші тижні війни

Березень 2022 року. Війна вже кілька тижнів у тренді. Керівництво LinkedIn хоче, щоб користувачі знову почали обговорювати, як має виглядати резюме ідеального кандидата, та ділилися мотиваційними цитатами. Приймається рішення заблокувати обговорення війни, видаляючи пости на цю тему.

У процесі реалізації цього рішення команда LinkedIn доходить висновку, що видалення постів — занадто грубий метод. Стає очевидним, що у LinkedIn діє цензура. Це викличе багато невдоволення, а також користувачі почнуть обходити цензуру, наприклад, писати без використання слів "війна" чи "вторгнення", щоб обманути фільтри контенту.

Ухвалюється рішення застосувати більш м'який метод викорінення небажаних тем — знижувати вагомість постів про війну всередині алгоритму. З боку користувача створюється враження, що пости про війну просто нецікаві іншим. І немає потреби нічого блокувати.

Ви можете сказати, що ця гіпотеза — лише плід моїх фантазій, і пости варто було б робити цікавішими. Але суть від цього не змінюється — LinkedIn могла змінити алгоритм або могла нічого не змінювати, МИ НІКОЛИ НЕ ДІЗНАЄМОСЬ ПРО ЦЕ НАПЕВНО. Алгоритм для користувача соціальної мережі — це чорна скринька у чорній кімнаті. Він може змінювати форму, їх може бути декілька, його можуть змінювати кілька разів на день, ми про це не дізнаємося і можемо лише здогадуватися за дуже непрямими ознаками.

До слова, код алгоритмів X близько року тому потрапив у мережу, і там знайшли докази, що тема війни Росії проти України затемнюється в цій соцмережі.

Ще кілька історій, які нічого не доводять, бо в цій темі неможливо щось довести напевно

Одного разу я помітив аномалію в Twitter — соцмережа на той час вже належала Ілону Маску, але ще мала стару назву. Перед черговими виборами до парламенту США мені один за одним почали траплятися твіти топових політиків однієї з партій — хоча я ніколи не взаємодіяв із акаунтами цих людей і загалом не стежив за американською політикою.

З цікавості я звернувся до служби підтримки й запитав, чому так могло статися. Фахівці Twitter відповідали шаблонними фразами, описуючи роботу алгоритмів у загальних рисах. Я поставив багато запитань, зокрема, чи були зміни в алгоритмах за останні місяці, які могли вплинути на мої рекомендації. Після низки ухильних (не)відповідей служба підтримки просто закрила мій тікет в односторонньому порядку.

Чи займався Twitter пропагандою на виборах — це неможливо довести. У цьому і полягає суть незримої сили алгоритму як інструменту.

В шоу Last Week Tonight нещодавно був випуск, присвячений TikTok, де мене особливо вразив яскравий приклад роботи алгоритму. В одному з сегментів Джон Олівер показав тренд, у якому молоді дівчата зізнаються, що алгоритм соцмережі зрозумів їхню нетрадиційну сексуальну орієнтацію раніше за них самих.

Можливо, алгоритм ніколи не був спеціально чи випадково налаштований на те, щоб "розкривати" сексуальні уподобання людей. Але без витоку даних дізнатися про це неможливо.

Знімаємо шапочку з фольги

Як це зазвичай буває з інструментами комунікації, алгоритм — це не магія. Щоб досягти через нього суттєвих результатів, потрібно виконати багато роботи та застосовувати різні методи комплексно. Використовуючи TikTok чи Instagram, ви не станете обов’язково ЗОЖ-активістом, республіканцем, бісексуалом чи фанатом яскравих танців, якщо цьому не сприятиме низка інших чинників.

Я не закликаю когось видаляти акаунти в соціальних мережах. Жодна людина не живе у вакуумі, і навіть якщо ви користуєтеся лише месенджерами й спілкуєтеся там лише у мікрогрупах, на ваші настанови впливають інші люди, які, ймовірно, самі користуються соцмережами, дивляться телевізор, слухають інфлюенсерів на YouTube.

Визначити, на що спрямований дискурс, можна через спостереження та роздуми в ключі: “До чого мене підштовхують?”. Тут якнайкраще пасує біблійний вислів: “По їхніх плодах ви пізнаєте їх” (Матв. 7:16). Якщо твіт, пост, тред чи відео вас “зачепили” — це насамперед привід не поставити лайк, а замислитися: які почуття це викликає, “до кого чи чого мене підштовхують любити чи ненавидіти?”.

Ці роздуми часто призводять до дуже цікавих відкриттів — іноді про себе, але частіше про актуальні настанови в суспільстві.