Reddit змушений використати штучний інтелект для вирішення проблем, які створив інший ШІ

Алгоритмічний щит проти цифрового шуму

Стрімкий розвиток і загальна доступність потужних великих мовних моделей (LLM) призвели до того, що створення та розповсюдження спаму стало простішим, ніж будь-коли раніше. Тепер зловмисникам не потрібно витрачати години на написання переконливих текстів – за них це роблять нейромережі, які здатні генерувати нескінченний потік контенту за лічені секунди. Як наслідок, проблема ботів в останні роки набула катастрофічних масштабів. Щоб вижити в таких умовах, платформа Reddit вирішила піти на радикальний крок: використовувати ті самі інструменти штучного інтелекту для виявлення та видалення шкідливого контенту, пише видання TechCrunch.

Це рішення виглядає іронічно, адже компанія фактично змушена боротися з вогнем за допомогою вогню. Проте в епоху штучного інтелекту у великих соціальних платформ просто не залишається іншого вибору. За офіційними даними, Reddit щодня блокує близько 23 мільйонів переглядів спаму та виявляє приблизно 25 тисяч нових постів і коментарів, створених ботами.

Попри те, що автоматизовані системи боротьби зі сміттєвим контентом існують уже багато років, саме впровадження мовних моделей останнього покоління дозволило суттєво підвищити ефективність цієї роботи.

Ми використовуємо великі мовні моделі, щоб виявляти надзвичайно тонкі, скоординовані шаблони фейкової поведінки та штучного ажіотажу, які раніше пропускали старі системи,
– прокоментували представники Reddit в офіційному блозі компанії.

Результати такого підходу вже дають про себе знати. Представники платформи стверджують, що завдяки оновленим інструментам їм вдалося знизити рівень впливу спаму на користувачів на 20 відсотків у період із січня по березень 2026 року порівняно з попередніми трьома місяцями. Це свідчить про те, що нейромережі значно краще розпізнають складні маніпуляції та штучне накручування популярності певних тем, які раніше здавалися природними для простіших фільтрів.

Усі тонуть в ШІ-непотребі, але всі вчаться з ним існувати

Проте Reddit – не єдина платформа, яка шукає способи співіснування зі штучним інтелектом. Інші технологічні гіганти обирають різні стратегії.

• Наприклад, YouTube, Meta та Instagram дозволяють публікувати контент, створений нейромережами, але за умови обов'язкового розкриття цієї інформації. Користувачі мають чітко бачити, що перед ними – продукт алгоритмів, а не людської творчості.
• Своєю чергою TikTok пішов ще далі, запропонувавши користувачам самостійно обирати обсяг штучного контенту, який вони хочуть бачити у своїй стрічці, за допомогою спеціального перемикача.

Впровадження потужних алгоритмів аналізу тексту відкриває перед модераторами й інші перспективи. Якщо системи навчаться розпізнавати згенерований текст швидше та точніше, це дозволить значно ефективніше виявляти й інший небезпечний контент, наприклад, мову ворожнечі або заклики до насильства.

Проте експерти галузі не втомлюються нагадувати, що жоден, навіть найдосконаліший штучний інтелект не може повністю замінити людину. Найкращі результати в модерації досягаються лише тоді, коли холодний розрахунок алгоритмів поєднується з людською здатністю розуміти контекст, емоції та складні культурні нюанси.

Наразі Reddit продовжує вдосконалювати свої системи, адже спамери також не стоять на місці, постійно оновлюючи свої методи обходу фільтрів. Ця нескінченна гонка озброєнь у цифровому світі визначатиме вигляд інтернету на найближчі десятиліття. Головним завданням для розробників залишається збереження балансу: очистити платформу від сміття, не зачепивши при цьому справжніх користувачів, які також можуть використовувати допоміжні ШІ-інструменти для роботи чи навчання.