Цифровые империи XXI века: Харари предупредил о риске беспрецедентной концентрации власти из-за ИИ

Искусственный интеллект может привести к гораздо большей концентрации власти, чем предыдущие технологические революции. Израильский историк, философ и футуролог Юваль Ной Харари считает, что ключевую роль в новой гонке вооружений будут играть данные и инфраструктура ИИ. США и Китай уже соревнуются за контроль над технологиями, способными определять функционирование целых государств, заявил Харари в интервью журналисту Тому Паркеру на гала-вечере, посвященном 50-летию EDP.

Историк отметил, что сегодня власть все больше связана с контролем над данными. По его словам, гонка вооружений XXI века происходит не только между США и Китаем, но и с участием небольшого числа компаний, которые контролируют значительную часть мировых данных и разрабатывают все более мощные модели ИИ. Согласно опросу YouGov, около 70% американцев считают влияние крупных технологических компаний чрезмерным и выступают за ужесточение антимонопольного законодательства и контроля за сбором персональных данных.

Уроки промышленных империй прошлого

Харари сравнил нынешнюю ситуацию с промышленной революцией XIX века. Тогда технологическое превосходство нескольких стран позволило им создать империи и завоевать обширные территории, поскольку у сторон были очень разные возможности в производстве оружия и других технологий.

В качестве примера Харари привёл Бельгию, которая после индустриализации смогла создать огромную империю в Африке на территории нынешней Демократической Республики Конго. По его словам, в то время промышленность и имперская власть фактически воспринимались как взаимосвязанные явления.

В то же время предыдущие империи не могли полностью сосредоточить все ресурсы в своём центре. В Римской империи главным экономическим ресурсом была земля, поэтому пшеничные поля Египта или оливковые рощи Иберии невозможно было перенести в Италию. Из-за этого значительная часть экономической и политической власти оставалась в провинциях.

Подобная ситуация существовала и в Британской империи в эпоху промышленности. Основные промышленные мощности сосредоточивались в Великобритании, но нефтяные месторождения Ирака или каучуковые плантации Малайзии невозможно было переместить в британскую метрополию.

Концентрация информационной власти

«Технически можно сосредоточить всю мировую информацию и весь код, управляющий всеми процессами, лишь в одной или двух странах», — отметил Харари.

Это, по его мнению, создает потенциал для концентрации власти, которого не существовало в предыдущие эпохи. При этом одна система ИИ может функционировать по всему миру, тогда как ее ключевая инфраструктура и управление будут оставаться в одном имперском центре.

Потеря технологического суверенитета

Харари также обратил внимание на отличие ИИ от традиционного оружия. В прошлом империя не могла дистанционно отключить оружие, которое продала или передала другой стороне. Он привел пример Римской империи, где после продажи стального меча другому народу римляне теряли контроль над ним, так же как в XIX веке британские власти не могли дистанционно вывести из строя винтовки, которые британские купцы продавали афганским племенам.

С искусственным интеллектом, по словам Харари, может быть иначе. Если правительства, армии и промышленность используют технологии на базе ИИ, поставляемые из определенного центра, поставщик потенциально может сохранять возможность удаленно прекратить их работу. Ранее администрация президента США Дональда Трампа временно отключала ведущие ИИ-модели, такие как Fable 5 и Mythos 5 компании Anthropic, якобы из-за угрозы национальной безопасности.

«Оружие на базе ИИ — это не то же самое, что пулеметы. Оно интегрировано в целостную сеть», — подчеркнул историк и добавил, что именно эта особенность поднимает новые вопросы о суверенитете государств в эпоху ИИ.

Харари считает, что суверенитет в эпоху искусственного интеллекта станет более сложным понятием, чем в индустриальную эпоху. При определенных архитектурах ИИ в имперском центре может оставаться механизм принудительного отключения системы, работающей в других странах. В такой ситуации, по его словам, государства могут оказаться перед выбором между зависимостью от технологической империи и отказом от участия в гонке.

В то же время Харари допускает создание альтернативы американской и китайской системам. Он подытожил: «Если вы хотите это сделать, действовать нужно немедленно».

Практический риск того, о чём предупреждает Харари, уже проиллюстрировал случай с ограничениями в отношении моделей Anthropic в США. В статье«Государство может отключить искусственный интеллект. Почему блокировка новых моделей Claude — — урок для Украины» автор Алексей Костенко подчеркивает, что этот прецедент демонстрирует опасный сдвиг, когда исполнительная власть превентивно ограничивает когнитивные возможности ИИ устаревшими инструментами индустриальной эпохи без прозрачных правовых процедур. Эксперт предупреждает, что для Украины эта ситуация является прямой подсказкой о необходимости своевременной разработки собственного законодательства в сфере ИИ и укрепления цифрового суверенитета, чтобы избежать критической зависимости от решений иностранных правительств.