Сем Альтман каже, що боти створюють враження «фальшивості» соціальних мереж

 Сем Альтман пережив прозріння: він написав, що боти зробили неможливим визначити, чи справді дописи в соціальних мережах написані людьми.

Усвідомлення цього прийшло під час читання (та поширення) деяких постів із сабреддіту r/Claudecode, в яких вихвалявся OpenAI Codex. OpenAI запустив сервіс програмування , який відповідає Claude Code від Anthropic, у травні.

Останнім часом цей сабреддіт був настільки заповнений публікаціями самопроголошених користувачів Code, які оголошують про перехід на Codex, що один користувач Reddit навіть пожартував: «Чи можна перейти на Codex, не публікуючи тему на Reddit?»

Це змусило Альтмана замислитися, скільки з цих постів було від реальних людей. «У мене був дивний досвід читання цього: я припускаю, що це все фейк/боти, хоча в цьому випадку я знаю, що зростання кодексу справді сильне, і тенденція тут реальна», – зізнався він на X.

Потім він проаналізував свої міркування в прямому ефірі. «Я думаю, що відбувається ціла низка речей: реальні люди підхопили особливості термінології магістра права, натовп екстремально онлайн-активістів об’єднується дуже взаємопов’язаними способами, цикл ажіотажу має дуже екстремістський характер «все скінчено/ми повернулися», оптимізаційний тиск з боку соціальних платформ на залучення та пов’язаний із цим спосіб монетизації творців, інші компанії астротурфували нас, тому я особливо чутливий до цього, і багато іншого (включаючи, ймовірно, деяких ботів)».

Щоб трохи розшифрувати це, він звинувачує людей у ​​тому, що вони починають звучати як LLM, хоча LLM — очолювані OpenAI — були буквально винайдені для імітації людського спілкування, аж до тривалого тире. А моделі OpenAI точно навчалися на Reddit , де Альтман був членом ради директорів до 2022 року, і був розкритий як великий акціонер під час IPO компанії минулого року.

Він слушно зазначає, що фандоми, очолювані надзвичайно активними користувачами соціальних мереж, справді схильні до дивної поведінки. Багато груп можуть перерости у фестивалі ненависті, якщо їх захоплять ті, хто виливає своє розчарування на своїх побратимів.

Альтман також критикує стимули, які дають соціальним мережам та творцям контенту за залучення користувачів, щоб заробляти гроші. Цілком справедливо.

Але потім Альтман зізнається, що однією з причин, чому він вважає, що про-OpenAI-пости в цьому сабреддіті можуть бути ботами, є те, що OpenAI також був «астротурфований». Зазвичай це стосується постів людей або ботів, за яких платить конкурент або якийсь підрядник третього рівня, що дає конкуренту правдоподібну можливість заперечення.

У нас немає доказів астротурфінгу (хоча це можливо). Але ми бачили, як сабреддіти OpenAI налаштували свою роботу проти компанії після випуску GPT 5.0. Замість хвиль похвал від вірян щодо нової моделі, багато гнівних постів отримали схвальні відгуки. Люди почали скаржитися на Reddit та X на все: від характеру GPT до того, як вона витрачає титри, не завершуючи завдання .

Через день після невдалого релізу Альтман провів сесію запитань на Reddit про r/GPT, в якій зізнався у проблемах із розгортанням та пообіцяв зміни. Сабреддіт GPT так і не відновив свого колишнього рівня любові, а користувачі досі регулярно пишуть про те, як сильно їм не подобаються зміни в GPT 5.0. Чи вони люди? Чи, як, здається, натякає Альтман, вони якимось чином фальшиві?

Альтман припускає: «Кінцевий ефект полягає в тому, що twitter зі штучним інтелектом/Reddit зі штучним інтелектом виглядає дуже фальшивим, чого насправді не було рік чи два тому».

Якщо це правда, то хто в цьому винен? GPT змусив моделі стати настільки вправними в письмі, що LLM стали чумою не лише для сайтів соціальних мереж (які завжди мали проблеми з ботами), але й для шкіл , журналістики та судів.

Хоча ми не знаємо, скільки постів на Reddit написано ботами або є вигаданими обліковими записами людей, які використовують LLM, ймовірно, це значна кількість. Компанія з безпеки даних Imperva повідомила, що понад половина всього інтернет-трафіку у 2024 році був нелюдським, значною мірою через LLM. Власний бот X, Grok, каже : «Точні цифри не є публічними, але оцінки за 2024 рік свідчать про сотні мільйонів ботів на X».

Кілька циніків припустили, що скарги Альтмана були його першою спробою просувати чутки про платформу соціальних мереж OpenAI . У квітні видання Verge повідомило, що такий проект, спрямований на боротьбу з X та Facebook, перебуває на ранніх стадіях. Цей продукт може існувати, а може й не існувати. Альтман міг мати приховані мотиви, припускаючи, що соціальні мережі в наші дні є надто фальшивими, а може й ні.

Але якщо залишити осторонь мотиви, якщо OpenAI планує створити соціальну мережу, яка ймовірність того, що вона стане зоною, вільною від ботів? І, як не дивно, якби все сталося навпаки і заборонили людей, результати, ймовірно, не відрізнялися б. Мало того, що LLM досі галюцинують факти, але коли дослідники з Амстердамського університету створили соціальну мережу, що повністю складається з ботів, вони виявили, що боти незабаром також утворили кліки та луно-камери для себе