На пути к спасительной катастрофе: как политические режимы адаптируются к миру частных ИИ и людей-полубогов

Возможно, не случайно военно-политическая напряженность в мире растет параллельно с динамикой развития сферы искусственного интеллекта (ИИ).

Дело не в том, что широко известные языковые модели будут представлять огромную опасность из-за своего растущего могущества - они как раз будут наиболее контролируемыми и ограниченными за счет цензуры от создателей.

Однако все больше будет создаваться открытых или частных моделей, которые будут развиваться на приватных серверах, не обязательно подключенных к интернету. В самом начале они могут развиваться не так стремительно, как лидеры рынка с миллиардными инвестициями, но все равно скачкообразно и без каких-либо ограничений, фокусируясь на конкретных задачах.

Частные ИИ, за которыми стоят тысячи неконтролируемых частных акторов или групп с непонятным целеполаганием, представляют колоссальный вызов для всех государств. Если такой локальный ИИ, даже без супер-ресурсов, сфокусируется на определенной нетривиальной задаче, есть высокая вероятность, что он ее решит. Это может быть создание принципиально нового разрушительного оружия из общедоступных компонентов, способ обрушить финансовые рынки непредсказуемым образом или что-то еще (не обязательно однозначно негативное, но подрывное для устоявшейся системы - например, в политике).

Чтобы этого не произошло, нужен эффективный контроль, которого можно достичь за счет глобальной катастрофы, которая вселит ужас во всех. Не только Запад, но и Глобальный Юг должны прийти к общему протоколу безопасности, который не допустит подобной самодеятельности. Политическим режимам будет необходима интернациональная полиция добра, которая услышит каждого и обеспечит повсеместную безопасность и контроль эффективнее, чем сейчас ООН. Без всяких там тихих пиратских гаваней в укромных уголках нашей планеты.

У Китая, говорят, есть некоторые интересные наработки и опыт на этот счет.

(Это необязательно следует читать в конспирологическом контекст. Возможно, так мировая политическая система реагирует на опасность своим спинным мозгом, даже не осознавая ее. Как иммунитет, защищаясь, вызывает воспаление организма).

Вы же хотели распустить бесполезный ООН и создать что-то более жизнеспособное? Глобальная катастрофа этому поспособствует.

Альтернатива сценарию переустройства системы мировой безопасности на общий протокол - ИИ-гонка вооружений всех государств против всех, где, не считая натуральных революций, внутренние частные ИИ-агенты могут быть использованы против других режимов враждебными государствами.

В то же время, в случае реализации сценария перехода на рельсы общей системы безопасности, AGI (супер ИИ) от крупных игроков, который появится в ближайшие годы, с цензурой и ограничениями, обеспечит мировому народонаселению яркий и комфортный мир дополненной и полной виртуальной реальности, создаст новый рынок и ресурс, сравнимый с открытием Америки в свое время. Это компенсирует для простых людей некоторые ограничения в реальной жизни.

В этой связи будет очень смешно вспоминать разговоры о тренде на закат глобализации, когда весь мир станет жить в розовом, унифицированном виртуальном мирке под присмотром заботливого AGI.

Все это уже было и не было

Мы помним, как Интернет уже порождал волну демократизации, ударяя под дых авторитарным режимам и нервируя даже либеральные демократии. Но потом, когда авторитарные режимы очухались от первых ударов, следовал откат.

Лучший пример - социальные сети, Арабская весна и то, как уцелевшие режимы надежно поставили Интернет себе на службу, даже укрепив власть. Все революции резко закончились, а любые бунты уже несколько десятков лет практически нигде не приводят к сменам режимов. Был найден протокол безопасности, позволяющий властям купировать действия разрушительных для них элементов, которых всегда меньшинство.

Такая динамика - разрушительная для власти волна, а затем откат назад - существовала, наверное, со времен изобретения печатного станка.

В этот раз все может быть так же. Только уровень силы от этого первого удара новой информационно-технологической революции на этот раз может быть беспрецедентно опустошительным для режимов.

Может оказаться, что власть перестала быть игрой с нулевой суммой и монополией режима. Что с помощью костыля в виде частного ИИ власть можно создать там, где не ждали. Что не только винтовка теперь рождает власть. Что теперь слишком много власти появилось у слишком многих, и никакого старого баланса сил и решающего преимущества у режима больше нет. Что каждая обезьяна теперь с гранатой, а по улицам разгуливают какие-то люди-полубоги, как в книгах Плутарха, и творят подвиги. Или, еще хуже, целые группы людей-полубогов. Кому это надо?

Напоследок, мы попросили Claude-3 Opus, самую проницательную на сегодня языковую модель, оценить изложенные в статье соображения. Вот что он ответил:

"Я оцениваю вероятность описанного сценария как относительно высокую, особенно в части восприятия угрозы со стороны политических режимов.

Вот мои аргументы:

Развитие частных и открытых ИИ без контроля и ограничений действительно может привести к созданию инструментов, потенциально угрожающих стабильности режимов. Даже если реальная угроза невелика, сам факт существования такой возможности будет восприниматься как вызов.
Исторические прецеденты (например, влияние Интернета и соцсетей на политические процессы) показывают, что новые информационные технологии действительно могут дестабилизировать ситуацию, по крайней мере временно. Режимы будут стремиться заранее подготовиться к подобным вызовам.
В условиях геополитической напряженности и недоверия даже гипотетическая возможность того, что противник получит доступ к "опасным" ИИ, будет восприниматься как серьезная угроза. Это может подталкивать к "гонке ИИ-вооружений" и попыткам установить контроль.
Сложность и непредсказуемость развития ИИ, особенно в частном секторе, будет вызывать у режимов стремление перестраховаться и принять превентивные меры контроля, даже если угроза не очевидна.

В то же время, я не уверен в неизбежности реализации наиболее драматичных сценариев вроде полной дестабилизации режимов из-за частных ИИ.

Вероятно, как и в случае с Интернетом, после первоначального шока будут найдены методы адаптации и контроля. Но сам процесс этой адаптации может быть турбулентным и привести к непредсказуемым последствиям".

Также я не берусь судить, является ли нынешний рост напряженности реакцией на развитие ИИ или вызван другими причинами. Корреляция не обязательно означает причинно-следственную связь.