Співробітники OpenAI обурені тиском компанії на соціальні мережі

Кілька нинішніх та колишніх дослідників OpenAI висловлюються щодо першого вторгнення компанії в соціальні мережі: програми Sora , стрічки в стилі TikTok, наповненої відео, згенерованими штучним інтелектом, та безлічі діпфейків Сема Альтмана . Дослідники, висловлюючи свої скарги на X, здається, розриваються між тим, як запуск вписується в некомерційну місію OpenAI з розробки передового штучного інтелекту, який принесе користь людству.

«Стрічки на основі штучного інтелекту лякають», — сказав дослідник попереднього навчання OpenAI Джон Холлман у дописі на X. «Не заперечую, що відчув певне занепокоєння, коли вперше дізнався про випуск Sora 2. З усім тим, я думаю, що команда виконала найкращу роботу, яку могла, у розробці позитивного досвіду… Ми зробимо все можливе, щоб штучний інтелект допомагав людству, а не шкодив».

Боаз Барак, ще один дослідник OpenAI та професор Гарварду, відповів : «Я поділяю схожу суміш занепокоєння та хвилювання. Sora 2 технічно вражає, але передчасно вітати себе з тим, що ми уникнули пасток інших додатків соціальних мереж та діпфейків».

Колишній дослідник OpenAI Рохан Пандей скористався моментом, щоб представити новий стартап Periodic Labs, який складається з колишніх дослідників лабораторій штучного інтелекту, що намагаються створити системи штучного інтелекту для наукових відкриттів: «Якщо ви не хочете створювати нескінченну машину для відкачування інформації з TikTok зі штучним інтелектом, а хочете розробити штучний інтелект, який прискорює фундаментальну науку… приєднуйтесь до нас у Periodic Labs».

Було багато інших постів у тому ж ключі.

Запуск Sora підкреслює основну суперечність навколо OpenAI, яка спалахує знову і знову. Це найшвидше зростаюча компанія споживчих технологій на Землі, але це також передова лабораторія штучного інтелекту з високим некомерційним статутом. Деякі колишні співробітники OpenAI, з якими я спілкувався, стверджують, що споживчий бізнес теоретично може виконувати місію: ChatGPT допомагає фінансувати дослідження штучного інтелекту та широко розповсюджувати технологію.

Генеральний директор OpenAI Сем Альтман сказав про це у своєму дописі в середу, де розповів, чому компанія виділяє стільки капіталу та обчислювальної потужності на додаток для соціальних мереж зі штучним інтелектом:

«Нам справді потрібен капітал для створення [sic] штучного інтелекту, який може займатися наукою, і, звичайно, ми зосереджені на ЗШІ майже всією нашою дослідницькою роботою», – сказав Альтман. «Також приємно показувати людям нові круті технології/продукти, викликати у них посмішку та, сподіваємося, заробляти гроші, враховуючи всі ці обчислювальні потреби».

«Коли ми запускали chatgpt, було багато питань «кому це потрібно і де ЗШІ?», – продовжив Альтман. «[Р]еальність має свої нюанси, коли йдеться про оптимальні траєкторії для компанії».

Але коли споживчий бізнес OpenAI починає випереджати свою некомерційну місію? Іншими словами, коли OpenAI відмовляється від можливості заробляти гроші та розвиватися на платформі, оскільки це суперечить місії?

Це питання постає, оскільки регулятори ретельно вивчають перехід OpenAI до комерційної діяльності , який OpenAI має завершити, щоб залучити додатковий капітал і зрештою стати публічною організацією. Генеральний прокурор Каліфорнії Роб Бонта заявив минулого місяця, що він «особливо стурбований тим, щоб заявлена ​​місія OpenAI щодо безпеки як некомерційної організації залишалася на першому місці» під час реструктуризації.

Скептики відкинули місію OpenAI як інструменту брендингу для залучення талантів з великих технологічних компаній. Але багато інсайдерів OpenAI наполягають, що це є ключовою причиною їхнього приєднання до компанії.

Наразі, присутність Sora невелика; додатку лише один день. Але його дебют знаменує собою значне розширення споживчого бізнесу OpenAI та надає компанії можливість скористатися стимулами, які десятиліттями переслідували додатки соціальних мереж.

На відміну від ChatGPT, який оптимізований для корисності, OpenAI стверджує, що Sora створена для розваги — місце для створення та обміну кліпами зі штучним інтелектом. Стрічка новин ближча до TikTok або Instagram Reels, платформ, які сумнозвісні своїми захопливими циклами.

OpenAI наполягає на тому, що хоче уникнути цих пасток, стверджуючи в блозі, де оголошується запуск Sora, що «найбільше уваги приділяється занепокоєнню щодо doomscrolling, залежності, ізоляції та стрічок, оптимізованих для RL». Компанія прямо заявляє, що не оптимізує час, витрачений на стрічку, а натомість хоче максимізувати створення контенту. OpenAI каже, що надсилатиме нагадування користувачам, коли вони гортатимуть сторінки занадто довго, і в першу чергу показуватиме їм людей, яких вони знають.

Це сильніша відправна точка, ніж Vibes від Meta — ще одна коротка відеострічка на базі штучного інтелекту, випущена минулого тижня, — яка, схоже, була швидко відкинута без стількох запобіжних заходів. Як колишній керівник політики OpenAI, Майлз Брундейдж зазначає , що можливо, що будуть як хороші, так і погані застосування відеострічок на базі штучного інтелекту, подібно до того, що ми бачили в еру чат-ботів.

Однак, як давно визнав Альтман, ніхто не прагне створювати додаток, що викликає залежність. Стимули запуску стрічки підштовхують їх до цього. OpenAI навіть зіткнувся з проблемами, пов'язаними з підлабузництвом у ChatGPT , що, за словами компанії, було ненавмисним через деякі з її методів навчання.

У червневому подкасті Альтман обговорив те, що він називає «великою невідповідністю соціальних мереж».

«Одна з великих помилок ери соціальних мереж полягала в тому, що алгоритми стрічки мали купу непередбачуваних негативних наслідків для суспільства в цілому, і, можливо, навіть для окремих користувачів. Хоча вони робили те, чого хотів користувач — або, на думку когось, чого хотіли користувачі — у даний момент, а саме спонукали їх, наприклад, продовжувати проводити час на сайті».

Поки що зарано говорити про те, наскільки додаток Sora відповідає своїм користувачам або місії OpenAI. Користувачі вже помічають деякі методи оптимізації взаємодії в додатку, такі як динамічні емодзі, які з'являються щоразу, коли ви ставите лайк відео. Здається, це створено для того, щоб виробити трохи дофаміну в користувачах за взаємодію з відео.

Справжнім випробуванням буде те, як OpenAI розвиватиме Sora. Враховуючи те, наскільки ШІ захопив звичайні стрічки соціальних мереж, здається ймовірним, що стрічки, створені на основі ШІ, незабаром матимуть свій момент. Чи зможе OpenAI розвивати Sora, не повторюючи помилок своїх попередників, ще належить з'ясувати.