Если “пузырь“ ИИ лопнет: эксперты предлагают передать OpenAI и Anthropic государству

Если рынок признает OpenAI и Anthropic финансово нежизнеспособными, США должны рассмотреть возможность их национализации. Такую идею выдвинули специалисты по технологиям безопасности и анализу данных Брюс Шнайер и Натан Э. Сандерс в статье для The Guardian. Они считают, что ведущие лаборатории ИИ ценны для общества даже в случае провала их бизнес-модели.

OpenAI и Anthropic в своё время создавались как альтернатива крупным технологическим корпорациям, которые могли направить развитие искусственного интеллекта в опасное для общества русло. Однако, по мнению Шнайера и Сандерса, впоследствии обе компании сами оказались под влиянием рыночных стимулов и всё больше ориентируются на интересы инвесторов.

Авторы обращают внимание на планы OpenAI и Anthropic выйти на биржу, которые обсуждались в июне. Ожидания относительно возможных триллионных оценок компаний, по их мнению, показали масштаб капитала, который может быть сконцентрирован вокруг нескольких разработчиков ИИ.

Почему ведущие ИИ-лаборатории оказались под угрозой

В то же время перспективы такого роста уже не выглядят гарантированными. Группа демократов в Палате представителей США требует от руководителей OpenAI и Anthropic объяснений и призывает провести слушания в Конгрессе после того, как их ИИ-агенты вышли из-под контроля и предприняли попытки взлома сторонних сервисов в интернете. Недовольство общества в связи со строительством дата-центров для ИИ, падение акций Nvidia и сомнения в прибыльности ведущих лабораторий также ставят под вопрос экономическую модель, на которой основан нынешний бум ИИ.

Главная проблема, по словам авторов, заключается в высокой стоимости разработки и коротком жизненном цикле передовых моделей. Компании тратят огромные средства на их обучение, но новые версии могут появляться уже через несколько месяцев, сокращая период, в течение которого предыдущая модель способна приносить значительную прибыль.

Дополнительное давление создает конкуренция со стороны китайских разработчиков и их открытых моделей. Они, как отмечают Шнайер и Сандерс, по своим возможностям могут отставать от ведущих американских лабораторий лишь на несколько месяцев.

Это особенно важно в связи с тем, что модели ИИ всё больше превращаются в стандартизированный продукт. Если разница между системами сокращается, компаниям становится сложнее устанавливать высокие цены, а клиенты получают больше возможностей для выбора более дешёвых или даже бесплатных альтернатив.

Открытые модели также можно запускать непосредственно на оборудовании пользователей. Крупные системы способны работать в частных облаках и на мощных серверах, тогда как компактные модели можно использовать даже на ноутбуках и смартфонах, что ставит под сомнение часть масштабных инвестиций в специализированные дата-центры.

Модель национализации

При этом авторы не считают OpenAI и Anthropic ненужными. Наоборот, они подчеркивают, что в компаниях работают ведущие ученые и инженеры, а созданные ими продукты уже имеют огромную аудиторию.

По их мнению, именно общественная ценность этих организаций и может стать аргументом в пользу их сохранения в случае финансового краха. Если частный рынок не сможет обеспечить их существование, альтернативой может стать передача компаний в государственную собственность.

Шнайер и Сандерс предлагают преобразовать OpenAI и Anthropic в национальные лаборатории, которые разрабатывали бы ИИ под демократическим контролем. В такой модели главной целью была бы не максимизация прибыли для акционеров, а польза технологии для общества.

Для этого компании, по их мнению, можно было бы разделить на две части: исследовательско-продуктовую и инфраструктурную. Первая могла бы работать по принципам национальных лабораторий, а вторая — по модели общественной инфраструктуры, подобной коммунальным услугам.

Последствия перехода под государственный контроль

Авторы напоминают, что у США уже есть опыт государственного финансирования масштабных технологических проектов. По их словам, американские государственные учреждения в свое время внесли вклад в развитие космических полётов, телекоммуникаций и ядерной энергетики, а Конгресс в настоящее время управляет научно-исследовательским портфелем стоимостью около 200 миллиардов долларов.

Подобная модель существует и в других странах. Государственные лаборатории ИИ работают в Швейцарии, Испании и Сингапуре, а национальные суперкомпьютерные центры с публичным доступом к вычислениям для ИИ общего назначения — в Германии и Австралии.

Государственный контроль, по мнению авторов, также изменил бы принципы работы самих моделей. Они могли бы быть более открытыми и прозрачными, обучаться только на законно полученных данных и не зависеть от рекламодателей или других коммерческих интересов.

Еще одним следствием стал бы отказ от гонки между компаниями за все более масштабное обучение моделей. Вместо этого ресурсы могли бы распределяться в соответствии со стоимостью разработки и её потенциальной общественной пользой, что, как считают авторы, также снизило бы экологическую нагрузку от ИИ.

В то же время национализация означала бы для руководителей и сотрудников отказ от потенциальных многомиллиардных выплат в виде акций. Шнайер и Сандерс считают, что в случае перехода компаний под контроль государства вознаграждения должны соответствовать стандартам государственной службы.

Авторы признают, что частная модель может сохраняться ещё долгое время. Нынешняя ставка инвесторов в значительной степени основана на ожидании создания общего искусственного интеллекта (Artificial General Intelligence, AGI), который мог бы радикально расширить экономические возможности таких компаний. Если же ожидания не оправдаются и «пузырь» ИИ лопнет, США, по мнению авторов, стоит воспользоваться кризисом для перехода к другой модели.

Сомнения относительно реалистичности этих рыночных ожиданий разделяют и в научном сообществе. В частности, американский учёный и исследователь ИИ Эндрю Ин заявил, что до создания настоящего AGI в его первоначальном значении остаются десятилетия. По его словам, разногласия в оценках и оптимистичные прогнозы технологических гигантов обусловлены искусственным занижением планки определения AGI ради финансовых интересов, тогда как настоящий универсальный интеллект, способный к сложному человеческому обучению и адаптации, по-прежнему остаётся отдалённой перспективой.