OpenAI боїться китайських ШІ моделей з відкритою вагою

Вражаючі можливості Kimi K3 китайської лабораторії Moonshot, найбільшої моделі великої мови програмування з відкритою вагою, викликали дискусію, яка поєднує дві речі: економічні можливості американських гігантів штучного інтелекту та майбутнє LLM як технології.

Керівник відділу стратегічного майбутнього OpenAI, Дін В. Болл, навіть стверджував , що уряд США повинен знайти привід для створення регуляторного страху, невизначеності та недовіри до нових моделей, оскільки моделі з відкритою вагою обов'язково повинні стримувати капіталовкладення передових лабораторій.

Люди панікували , оскільки такі технологічні світила, як Янн ЛеКун та Мартін Касадо, стверджували, що відкрите програмне забезпечення може пришвидшити інновації та співіснувати з власницькими проектами. Болл невдовзі відмовився від своїх заяв про те, що регуляторні заходи були «найкращою стратегією» Білого дому, і що моделі з відкритою вагою обов’язково уповільнюють розвиток технологій.

Однак, Axios повідомляє , що адміністрація Трампа розглядає можливість заборони K3 та інших передових китайських моделей на прохання американських прикордонних лабораторій. В іншому повідомленні Politico йдеться, що Міністерство торгівлі не зробить цього кроку найближчим часом.

Перевага для великих компаній, що займаються штучним інтелектом, очевидна: моделі відкритої ваги, що працюють на незалежній інфраструктурі або всередині великих підприємств, пропонують дешевший інтелект, ніж провідні у своєму класі моделі Anthropic або OpenAI. Якщо користувачі все частіше витрачають більше коштів поза межами закритих лабораторій, це означає меншу віддачу від їхніх величезних інвестицій у навчання моделей.

Ця точка зору виходить далеко за межі OpenAI. «Сильні, передові моделі з відкритим кодом тиснутимуть на маржу та знизять ціни передових компаній», – сказав TechCrunch Брейден Хенкок, співзасновник Snorkel AI та дослідницький партнер Інституту Лауде. «Це не обов’язково означатиме, що обсяг використання ШІ трохи зменшиться. Звичайно, все навпаки».

Це не проблема для людей, які не мають частки в Anthropic та OpenAI. Штучний інтелект все одно поширюватиметься. Тож які виправдання для уряду блокувати американців від купівлі чогось на наших нібито вільних ринках?

Занепокоєння щодо китайських моделей має кілька аспектів. Одним із них є захист даних США від китайського уряду; США заборонили імпорт сучасних китайських електромобілів через побоювання щодо збору ними даних. Але експерти схильні вважати, що моделі з відкритою вагою, що працюють на серверах США, навряд чи витокутимуть дані назад до Китаю, хоча таке можливо.

Інша причина полягає в тому, що моделі можуть мати неявну упередженість до КНР, але незрозуміло, що це може означати, скажімо, для завдань кодування.

Третє поширене занепокоєння полягає в тому, що китайським моделям бракує запобіжних заходів, встановлених урядом США ( через непрозорий процес ), які мають на меті запобігти використанню провідних американських LLM для експлуатації закритих комп'ютерних систем або створення зброї. Однак ці ж запобіжні заходи можуть зробити американські компанії більш вразливими: Девід Сакс, венчурний капіталіст і радник Трампа, розповідав про випадки , коли американські компанії зверталися до китайських LLM для заповнення прогалин у безпеці, коли американські прикордонні моделі відмовляються виконувати ці завдання.

Але найважливішою мотивацією для обмеження моделей є страх, що Китай зможе випередити США, якщо передові лабораторії сповільняться.

Сем Бреснік, науковий співробітник Центру безпеки та нових технологій Джорджтаунського університету, що спеціалізується на Китаї, каже, що зростаюча важливість штучного інтелекту для військових операцій США дає США підстави підтримувати подальші інвестиції в штучний інтелект у прикордонних лабораторіях. Але, за його словами, все це питання є складним.

«Чому вплив уряду США має бути спрямований на захист цих компаній від конкурентів, яким заборонено доступ на ринок США через їхнє походження?» — запитує Бреснік.

Прихильники відкритого штучного інтелекту стверджують, що передові компанії створюють хибну бінарність між інноваціями та закритими моделями.

«Більший вплив того, що ці моделі з відкритим кодом походять з Китаю, полягає не стільки в тому, що вони проникають через задні двері, скільки в тому, що вони володіють інноваціями», – сказав Хенкок TechCrunch. «У результаті ви фактично отримуєте розширену робочу силу для вашої моделі. PyTorch став галузевим стандартом, оскільки він був з відкритим кодом, і тому вся спільнота могла зробити внесок у нього, а не лише одна компанія, і він зростав і зростав, а всі інші бібліотеки глибокого навчання ніби померли в порівнянні».

Хенкок та інші прихильники побоюються, що китайські програми магістратури права (LLM) стануть центром міжнародних досліджень. Американські магістерські програми вже зараз переважно базуються на китайських моделях відкритої ваги, і Хенкок каже, що половина робіт, які вивчають студенти, надходить з китайських установ, а американські передові лабораторії дедалі більше стримуються від широкого поширення своєї роботи.

«Обмеження відкритих моделей не зробить ШІ безпечнішим», — сказав Клем Деланж, генеральний директор Hugging Face, платформи для відкритої співпраці у сфері ШІ. «Це просто приховає ризики, зосередить владу в руках небагатьох і ускладнить для наступного покоління розробників, дослідників, науковців, некомерційних організацій та урядів участь у створенні ШІ безпечнішим та кориснішим для всіх».

Бреснік каже, що справжнім способом уповільнити Китай було б зосередитися більше на контролі експорту чіпів. Кращим способом зберегти лідерство США у сфері штучного інтелекту було б припинити продаж процесорів Nvidia H200 Китаю. «Це, — каже він, — потенційно може вберегти нас від цієї складної дискусії щодо заборони технологій з відкритим кодом, які хоче використовувати величезна кількість американських компаній».

Частина проблеми полягає в невизначеності навколо економіки штучного інтелекту. «Відкрита бізнес-модель, власницька бізнес-модель — жодна з них не зрозуміла. Компанії, що займаються штучним інтелектом, намагаються зрозуміти, як заробляти на своїх інструментах, особливо враховуючи, що витрати на навчання постійно зростають», — зазначає Бреснік.

Ті ж проблеми, що й у США, виникають і в Китаї, де компанії, що займаються штучним інтелектом, також намагаються генерувати дохід та отримувати доступ до обчислювальної потужності, а уряд вважається таким, що заохочує відкриті релізи з політичних міркувань, незважаючи на труднощі з їх використанням.

Деякі американські компанії, зокрема Thinking Machines Lab та Nvidia, намагаються зробити бізнес на випуску відкритих моделей. Хенкок зазначає, що Nvidia досягла б кращих результатів, «якби існували десятки або сотні компаній, що розробляють штучний інтелект, а не дві чи три, які мають достатній капітал для створення власних чіпів», що є однією з причин її інвестицій у Nemotron , колекцію відкритих моделей.

«Головне полягає в тому, що США було б дуже добре мати власні дуже потужні та набагато дешевші відкриті моделі», – сказав Бреснік. «Це просто суперечить підходу, який обрали передові лабораторії».