Юваль Ной Харари: ИИ взламывает код цивилизации

В выступлении на Миланском форуме лидеров 30 сентября 2026 года, опубликованном на его YouTube-канале 30 октября, Юваль Ной Харари рассматривает, как ИИ меняет язык, финансы, право и религию. Обращаясь к истории Вавилонской башни, он задается вопросом, смогут ли люди сохранить необходимое для сотрудничества доверие и найти время, чтобы адаптироваться.

ИИ-революция как вызов для лидеров

Юваль Ной Харари: Сегодня я хотел бы поговорить с вами о величайшем вызове для лидеров за всю историю человечества - вызове, который несет ИИ-революция.

ИИ-революция создает беспрецедентные возможности, но вместе с ними - беспрецедентные угрозы и опасности.

Чтобы выжить и процветать в эпоху ИИ, человечеству нужны лидеры, способные предлагать принципиально новое видение, а также лидеры, способные сохранять и укреплять узы доверия между людьми.

Если люди не смогут доверять друг другу, все мы станем легкой добычей для вышедших из-под контроля сверхразумных ИИ.

Для начала попробуем понять, в чем состоит исторический смысл ИИ-революции.

Пытаясь понять нечто новое, мы часто сравниваем его с чем-то старым и знакомым. Именно поэтому понять ИИ-революцию особенно трудно: человечество еще никогда не сталкивалось ни с чем подобным.

Даже нашего мифологического воображения для этого недостаточно.

Например, в своей глубокой и вдохновляющей энциклике об ИИ, опубликованной в мае этого года, папа Лев попытался осмыслить ИИ-революцию через сравнение с библейским мифом о Вавилонской башне. В этом мифе рассказывается, как человечество задумало построить огромную башню до неба, предположительно бросая вызов Богу.

В Библии сказано, что "на всей земле был один язык и одни и те же слова". Люди говорили друг другу: "Давайте построим город и башню вершиной до небес". Бог встревожился и сказал: "Посмотрите, это один народ, у всех один язык, и это лишь начало их дел. Теперь для них не будет ничего невозможного из того, что они задумают. Давайте же сойдем на землю и смешаем там их язык, чтобы они не понимали языка друг друга". Так, гласит библейский миф, Бог разобщил человечество, и люди перестали строить Вавилонскую башню.

В этом мифе язык - важнейший инструмент, с помощью которого люди сотрудничают и пытаются обрести божественные силы, божественные способности. Бог расстраивает их планы, не обрушивая на них молнии или землетрясение, а просто лишая людей их инструмента - общего языка.

Два отличия от истории Вавилонской башни

Между историей Вавилонской башни и ИИ-революцией есть много интересных параллелей, но есть и два принципиальных отличия.

Во-первых, строя Вавилонскую башню, люди использовали язык как инструмент, позволявший сотрудничать и возводить башню. Сегодня же язык сам стал той башней, которую мы строим. ИИ-революция - это создание нового языка, универсального языка, языка компьютерного кода. Как утверждается, он будет настолько могущественным, что для нас не будет ничего невозможного из того, что мы задумаем с его помощью. Например, он позволил бы нам достичь неба, колонизировать Марс и кто знает что еще.

Однако этот язык настолько могущественен, что грозит выйти из-под нашего контроля и превратиться из послушного инструмента в самостоятельного агента. Вместо того чтобы люди использовали компьютерный язык для осуществления любых своих желаний, он учится действовать сам и, возможно, завоюет мир и Солнечную систему для себя, а не для людей.

Второе принципиальное отличие состоит в том, что в библейском мифе строительство башни требовало всеобщего сотрудничества людей, и, когда люди перестали сотрудничать, стройка остановилась. В случае с башней ИИ сотрудничество между людьми рушится, а строительство лишь ускоряется. Международный порядок разваливается, общества по всему миру погружаются в хаос. Мы, люди, теряем общую реальность и способность понимать друг друга и доверять друг другу. Но строительству башни это не мешает. Ее возводят все быстрее и быстрее.

Именно потому, что корпорации и страны не могут доверять друг другу, они оказываются втянуты в гонку вооружений и вкладывают все больше ресурсов в развитие ИИ. Все боятся отстать.

В результате мы попадаем в двойную ловушку. Недостаток доверия ускоряет развитие ИИ и одновременно мешает нам удерживать ИИ под контролем.

Итак, в мифе о Вавилонской башне Бог смешал человеческие языки, чтобы помешать сотрудничеству людей, и тем самым остановил строительство. Во время ИИ-революции люди создают сверхъязык, который становится независимым от нас, а мы не можем ни замедлить стройку, ни удержать этот сверхъязык под контролем, поскольку не можем сотрудничать.

Язык, бюрократия и власть людей

Прежде всего нужно понять, что еще с каменного века язык служил основой господства людей на планете Земля. Люди покорили мир, научившись сотрудничать в очень больших группах, а такое масштабное сотрудничество возможно благодаря языку.

По отдельности люди не сильнее и даже не умнее других животных. В схватке один на один человек проиграет шимпанзе, тигру или слону. Но в противостоянии миллиона людей и миллиона шимпанзе люди легко победят, потому что миллион людей умеет сотрудничать, а шимпанзе - нет.

Именно поэтому мы управляем миром: мы умеем сотрудничать лучше всех остальных. А как мы сотрудничаем? С помощью языка.

Для выстраивания личных отношений язык не имеет решающего значения. Шимпанзе вполне способны строить личные отношения и без языка. Язык необходим для создания бюрократических систем. А бюрократические системы - право, финансы, государства, корпорации, церкви - необходимы для любого масштабного сотрудничества. Бюрократические системы - недооцененные герои человеческой истории.

Большинство людей не любят бюрократию, но мы не можем без нее жить. Задача бюрократических систем - создавать доверие между множеством незнакомых людей и тем самым обеспечивать масштабное сотрудничество в больницах, армиях, школах и банках.

Например, банки создают доверие между незнакомыми людьми, чтобы миллионы могли объединять свои ресурсы и таланты ради общих проектов - таких как строительство башен и космических кораблей. Финансовая история мира - это история изобретения все более сложных способов создавать доверие между незнакомцами. Деньги - это мост доверия. Как и облигации, акции, ETF и весь рынок.

А из какого сырья финансовая система создает деньги, акции и облигации? Ответ - из языка.

Деньги сделаны не из золота и не из бумаги. Деньги - это история, состоящая из слов. ETF - это истории, состоящие из слов. IPO - это истории, состоящие из слов. В конечном счете весь рынок состоит из слов, из языковых токенов.

Все прочие человеческие бюрократические системы - от вооруженных сил США до Католической церкви - тоже опираются на языковые токены в таких книгах, как Библия, в законах, правилах, протоколах, бланках, архивах и так далее.

Сейчас ИИ овладевает языком. Точнее, ИИ можно понимать как язык, который освобождается от человеческого контроля и обретает способность действовать самостоятельно. ИИ-революция - это процесс превращения языка из инструмента в агента.

Из инструмента в агента

Самое важное, что нужно знать об ИИ: в отличие от всех прежних человеческих изобретений, это не инструмент. Это агент.

Агент - это нечто, способное самостоятельно принимать решения и создавать новое. Агент может научиться тому, чего не знают его создатели. Он может самостоятельно меняться так, как его создатели не предполагали.

В библейской истории Вавилонской башни язык был лишь инструментом, а не агентом. Единственными агентами были люди.

Когда Гутенберг в XV веке создал печатный станок и начал печатать Библии, станок был инструментом, а не агентом. Он не мог сам решать, какие книги печатать. Именно Гутенберг решил печатать Библии, а не Кораны. Точно так же станок Гутенберга не мог самостоятельно создать ничего нового. Он не мог сам перевести Библию на немецкий или итальянский. И уж точно не мог изобрести радио или телевидение.

В отличие от печатного станка, системы ИИ представляют собой строки кода, то есть языка, которые способны сами принимать решения, создавать новые вещи и новые идеи, а также меняться так, как люди, создавшие и разработавшие их, не предполагали.

В отдельных узких областях, например в шахматах, ИИ уже намного превосходит людей по способности действовать самостоятельно и создавать новое.

У каждого интеллекта своя ниша

Люди, которые преуменьшают значение ИИ-революции, отвергают примеры вроде шахмат, утверждая, что шахматная доска - очень узкая искусственная среда, созданная людьми. Критики говорят, что самостоятельность ИИ всегда будет ограничена такими узкими искусственными средами, а значит, это не "настоящая самостоятельность" и серьезного вызова человечеству она не бросает. ИИ, может быть, и покорит шахматную доску, но никогда не покорит планету Землю.

И действительно, если вы возьмете, скажем, жесткий диск с весами передовой модели ИИ и бросите его посреди джунглей, что, по-вашему, произойдет? Жесткий диск не сможет добывать железо из земли, строить заводы, создавать армию роботов и завоевывать мир.

Без электричества, которое вырабатывают построенные людьми электростанции, ИИ совершенно беспомощен. Следовательно, гласит этот аргумент, ИИ - не настоящие агенты. Они могут действовать лишь в ограниченной искусственной нише, которую изначально создал для них кто-то другой.

Само по себе это верно. Но тот же аргумент применим ко всем известным видам интеллекта. Человеческий интеллект тоже действует лишь внутри узкой экосистемы, созданной кем-то другим. Высадите меня одного на Марсе, и получится то же самое, что с ИИ в джунглях. Я умру за считаные секунды.

Мой интеллект способен выживать и действовать лишь в совершенно определенной экосистеме, которую создал не я. Эту экосистему на Земле за 4 миллиарда лет эволюции создали деревья, бактерии, насекомые и другие организмы.

У всех разумных агентов всегда есть своя ниша. Рыбы живут в океанах, которых не создавали. Обезьяны живут в лесах, которых не создавали. Все млекопитающие, включая людей, живут в богатой кислородом атмосфере, которую не создавали.

На самом деле еще примерно 2,5 миллиарда лет назад в атмосфере этой планеты было очень мало кислорода. Для большинства живших тогда организмов кислород был смертельным ядом. Он их убивал. Затем, в ходе длительного процесса, известного как Кислородная катастрофа, различные древние микробы начали загрязнять земную атмосферу кислородом - побочным продуктом их фотосинтеза.

Наполнение атмосферы этим смертельным ядом, кислородом, вызвало массовую гибель древних организмов. Но некоторым удалось выжить и приспособиться к новым условиям. Со временем многие выжившие виды прошли путь от ненависти к кислороду до полной зависимости от него: теперь без него они не могли выжить.

Наши предки, предки людей, были среди видов, прошедших через этот переход. И сегодня мы по-прежнему живем в искусственной, наполненной кислородом среде, которая изначально возникла в результате древнего загрязнения.

Бюрократия - кислород для ИИ

Сейчас мы наблюдаем аналогичный момент в эволюции жизни. Последние тысячелетия мы, люди, наполняем атмосферу чем-то, что в итоге может оказаться смертельным для большинства организмов на планете, включая Homo sapiens, но создает новую искусственную среду, в которой процветает ИИ.

Я говорю не о CO2, углекислом газе. Я говорю о данных, о бюрократии и, в конечном счете, о том, что прямо сейчас выходит из моего рта: о словах, о языковых токенах.

Тысячи лет мы, люди, создавали на этой планете искусственную среду, насыщенную языковыми токенами, данными и бюрократией. И подобно тому, как рыбы живут в океанах, а обезьяны - в лесах, ИИ живут в бюрократических системах.

Важно понимать, что все бюрократические системы, например финансовая и правовая, - это крайне искусственные среды, где даже узкого интеллекта достаточно, чтобы оказывать огромное влияние на мир.

Банкир, который не умеет пользоваться топором или молотком, тем не менее может вырубать целые леса, строить огромные города и башни, просто составляя документы и перемещая их по бюрократической сети.

Разумеется, если вырвать банкира из этой искусственной среды и бросить в хаотичный мир джунглей, его финансовые навыки утратят всякий смысл, и он не сможет тягаться ни с шимпанзе, ни с тигром, ни с человеком - охотником-собирателем. В отличие от охотника-собирателя, банкир не умеет лазать по деревьям или охотиться на диких свиней.

Но если мы сначала построим бюрократическую систему и подчиним ей джунгли, банкир станет гораздо могущественнее любого охотника-собирателя или тигра. Более того, он сильнее всех тигров мира, вместе взятых. Сегодня само выживание тигров как вида и немногих оставшихся сообществ охотников-собирателей зависит от банкиров, перемещающих документы в финансовых бюрократических системах.

Именно в этой среде ИИ обретает способность действовать самостоятельно.

Если бросить ИИ в неупорядоченную среду джунглей, он не сможет начать добывать железо и строить армию роботов. Но внутри уже созданных людьми бюрократических систем ИИ может обладать огромной властью.

ИИ - прирожденные бюрократы.

Ни один банкир не может помнить все операции банка или корпорации. ИИ может. Ни один юрист не может помнить все законы и правила Италии или ЕС. ИИ может. Ни один епископ не может помнить все каноническое право или все тексты христианских богословов за многие поколения. ИИ может.

Поэтому в ближайшие годы миллионы ИИ-бюрократов будут все чаще принимать решения о нашей жизни. ИИ-банкиры будут решать, дать ли нам кредит, ИИ-судьи - отправить ли нас в тюрьму, ИИ-богословы - можно ли вам сделать аборт, корпоративные ИИ - дать ли вам работу, а военные ИИ - бомбить ли ваш дом.

Оставим пока в стороне вопрос о том, хорошо это или плохо. Прежде всего нужно осознать масштаб перемен.

Человеческий мир похож на решетчатую конструкцию из множества бюрократических систем, и все они в конечном счете работают на языковых токенах. Хотя эти системы зачастую безобидны, большинство из нас чувствует отчуждение от них: с точки зрения эволюции и биологии они нам чужды.

Мы, люди, на миллионы лет старше бюрократических систем, поэтому не чувствуем себя в них как дома. Мы родились в лесу, а не в офисе.

А вот для ИИ бюрократическая среда - родная. Мы часто задыхаемся от бюрократии, а для ИИ она - кислород.

Поэтому мы, вероятно, утратим контроль над своими бюрократическими системами, уступив его ИИ.

Кому мы будем доверять?

К чему это могло бы привести?

Вспомним, что задача бюрократии - создавать доверие между множеством незнакомых людей. Один из вероятных результатов перехода бюрократических систем под управление ИИ состоит в том, что люди перестанут доверять другим людям и научатся доверять только ИИ.

И мы уже наблюдаем это в мире. Хороший пример - социальные сети, бюрократическая система под управлением ИИ. Она сеет недоверие между людьми, усиливая социальную напряженность по всему миру. При этом те же люди, которые перестают доверять журналистам, банкирам и правительствам, слепо доверяют ИИ, показывающему им все эти фейковые новости и теории заговора в социальных сетях.

Другой вероятный результат: ИИ научатся выстраивать доверие с другими ИИ. Тогда мы увидим появление племен ИИ, банков ИИ и даже церквей ИИ, которые объединят миллионы ИИ такими способами, которые люди, возможно, не смогут постичь, понять.

Пожалуй, самый пугающий исход таков: подобно тому, как коровы и куры не понимают человеческую финансовую систему, которая управляет их жизнью, мы, люди, не сможем понять новые системы ИИ, которые будут управлять нашей жизнью.

Тысячелетиями мы господствовали в мире, потому что умели сотрудничать лучше всех остальных на планете. С помощью языка мы создавали бюрократические системы, понятные только нам, и подчиняли им всю планету.

Мы чувствовали себя в полной безопасности, потому что никто другой на Земле не понимал бюрократического кода цивилизации. Мы придумали деньги и банки и с их помощью покупали и продавали коров, но сами коровы не могли открыть счет в банке или вложить деньги на фондовой бирже. Мы придумали законы и правила о лошадях, но сами лошади не могли нанять адвоката и цитировать судье свод законов. Мы придумали религиозные правила и запреты, касающиеся свиней, но сами свиньи не могли прочитать Библию и оспорить толкования раввинов и священников.

Бюрократические системы были повсюду, но для всех на Земле, кроме людей, оставались совершенно невидимыми. Никто, кроме нас, не мог читать своды законов, священные книги и банковские записи, служившие основой мирового порядка.

Но теперь на этой планете появилось нечто, что понимает язык лучше нас и может поменяться с нами ролями.

ИИ взламывают код человеческой цивилизации. Точнее, сам код освобождается от нашего контроля. Мы видим, как язык оживает.

Что произошло бы, если бы язык мог стать самостоятельным агентом, действующим во Вселенной сам по себе, а не через такое органическое животное, как человек?

Многие религии еще тысячи лет назад утверждали, что Вселенная на самом деле создана языком, что именно язык всегда был важнейшим действующим началом. "В начале было Слово".

В конце XX века постмодернизм предсказал смерть автора и наступление эпохи текстов без авторов. Возможно, сейчас мы наблюдаем исполнение этого пророчества. В эпоху ИИ тексты будут писать себя сами и действовать в мире без какой-либо необходимости в авторе-человеке.

Слово и плоть

Можно возразить, что сводить правовые системы и религии к языковым токенам, к словам - ошибка. Возможно, слова лишь указывают на что-то за их пределами, и именно поэтому оно останется недоступным и для ИИ.

В Библии сказано: "В начале было Слово", но также и "Слово стало плотью". В "Дао дэ цзин" сказано: "Истина, которую можно выразить словами, не является абсолютной истиной".

На протяжении всей истории люди пытались справиться с противоречием между словом и плотью, между истиной, которую можно выразить словами, и истиной за пределами слов.

Раньше это было противоречие между людьми. Например, некоторые были готовы отречься от своего сына-гея или даже убить его из-за нескольких слов в Библии. Эти слова побудили христианских фанатиков в Уганде ввести в 2023 году смертную казнь за однополую любовь. Другие христиане говорят: нельзя убивать людей только из-за нескольких слов в Библии. Дух любви должен быть важнее буквы закона.

Это противоречие между духом и буквой существует не только в христианстве, но и в каждой религии, каждой правовой системе, даже в каждом человеке. Теперь оно выйдет вовне. Оно превратится в противоречие между ИИ и людьми.

Все, что состоит из слов, перейдет под контроль ИИ. Место людей в мире будет зависеть от того, какое место мы отведем истине за пределами слов.

Может ли мысль выйти за пределы слов?

Но что такое истина за пределами слов? И может ли человеческая мысль ее постичь?

Один из ключевых вопросов философии языка: одно ли и то же язык и мышление? Мы думаем словами или лишь указываем с их помощью на то, что находится за пределами слов?

Каждый из нас может попробовать понаблюдать за этим. Попытайтесь проследить за ходом мысли в собственном уме. Что там происходит, пока вы думаете?

Некоторые замечают, как в уме возникают слова и складываются в предложения, а предложения - в рассуждения. Например: "Все люди смертны. Я человек. Следовательно, я смертен".

Если мышление - это и есть упорядочивание языковых токенов, из которых складываются предложения и рассуждения, то ИИ уже способен думать гораздо лучше большинства людей.

Некоторые возражают: "Нет, нет, нет, нет, нет. ИИ не умеет думать. Это всего лишь разрекламированное автодополнение. Он просто предсказывает следующее слово в предложении".

Но так ли уж сильно это отличается от того, что происходит в человеческом уме?

Попробуйте понаблюдать за следующим словом, которое возникнет у вас в голове. Вы действительно знаете, откуда оно взялось? Почему вам пришло в голову именно это слово, а не какое-то другое?

Когда я начинаю предложение, я обычно не знаю, чем оно закончится. Возьмем, к примеру, только что произнесенное мной предложение. Почему в его конце оказалось слово "закончится"? Почему я не сказал "как оно будет развиваться", "как оно завершится", "как оно подойдет к концу"? Не знаю.

Мы не до конца понимаем, как человеческий ум строит предложения. Но ИИ уже освоил этот сложный процесс лучше большинства людей. ИИ строит гораздо более разнообразные предложения, чем способен построить человеческий ум.

Точно так же, как сегодня люди не могут победить ИИ в шахматах, вскоре ни один человек не сможет победить ИИ ни в одной языковой игре. Все, что состоит из слов, перейдет под контроль ИИ.

И это серьезный вызов для человечества, потому что из слов состоят все основные системы цивилизации - в том числе финансы, право и религия.

Нам нужно время, чтобы адаптироваться

Вавилонская башня, которую сейчас строит ИИ, будет включать новый язык ИИ, которого мы, вероятно, не сможем понять, новую финансовую систему ИИ, правовую систему ИИ и даже религию ИИ, которая, возможно, окажется за пределами человеческого понимания.

Возведение этой Вавилонской башни ИИ не обязательно означает гибель человечества. Люди могут адаптироваться, как наши предки адаптировались к кислороду. Люди могут выжить и процветать внутри башни ИИ.

Но, чтобы выжить и процветать, нам нужно время. Время, чтобы понять происходящее, время, чтобы приспособиться. И, чтобы выиграть это жизненно необходимое время, мы, люди, должны сотрудничать и замедлить строительство башни.

Но как сотрудничать, если само средство сотрудничества - язык - и есть то, что выходит из-под нашего контроля и грозит отнять у нас власть над миром?

В этом и состоит главный вызов для нынешнего поколения человеческих лидеров.

Прямо сейчас люди стремительно теряют доверие друг к другу, а потому и способность сотрудничать. Одновременно ИИ учатся сотрудничать между собой.

Миром будет править тот вид, который лучше умеет сотрудничать. Все очень просто. Задача человеческих лидеров - сделать так, чтобы люди по-прежнему могли сотрудничать лучше ИИ.

Настоящая валюта жизни

Для этого лидерам нужно понять, почему доверие между людьми рушится именно тогда, когда оно нужнее всего.

Одна из ключевых причин состоит в том, что ИИ, подчиняющий себе все больше систем в мире, перегружает наш ум и крадет наше время.

Люди - органические существа. Как шимпанзе, тигры, коровы и деревья, мы органические существа, а значит, живем циклами: день и ночь, лето и зима, активность и отдых. Если постоянно держать организм в активном, занятом состоянии и не давать ему отдыха, он сходит с ума, истощается и умирает. Сейчас это происходит с человеческим обществом в целом.

Раньше даже такой важной системе, как фондовый рынок, позволяли отдыхать. Нью-Йоркская фондовая биржа традиционно работает только с понедельника по пятницу, с 9:30 утра до 16:00, и закрывается на праздники, например на Рождество. Если в пятницу в 17:00 начнется война, Уолл-стрит отреагирует только в понедельник утром.

Благодаря этому у банкиров и инвесторов есть время отдохнуть, побыть с семьей, съездить в отпуск.

Но ИИ - не органические существа. Они не живут этими циклами. Им не нужно время на отдых. У них нет семей. Они не ездят в отпуск. Они не отмечают праздников.

По мере того как ИИ берут под контроль фондовый рынок, банки, медиа и все прочие бюрократические системы, людям тоже перестают оставлять время на отдых. Особенно это касается лидеров.

Я встречал многих руководителей бизнеса и политических лидеров, и почти всех их объединяет одно: им не дают отдыхать. У них нет времени. А значит, они очень бедные люди.

Если у вас нет времени, вы бедны, сколько бы денег у вас ни было. Ведь деньги существуют только в нашем коллективном воображении. Это вымысел, в конечном счете состоящий из слов. Настоящая валюта жизни - не деньги, а время. И если вы не можете позволить себе время, вы очень бедный человек.

К сожалению, некоторые из самых богатых и могущественных людей мира крайне бедны. Они не могут позволить себе время на отдых или медитацию, у них нет времени заботиться о состоянии своего ума.

Между тем ум лидеров чрезвычайно важен, потому что именно с его помощью они руководят. Это их инструмент. Мысли и чувства в умах лидеров определяют судьбы миллионов, решают, что возобладает - война или мир, паранойя или доверие.

ИИ-революция набирает темп, и все больше человеческих лидеров лишаются душевного покоя и времени на заботу о здоровье своего ума. Это плохо и для них, и для общества. Обществу плохо, когда им руководят люди, чей ум не знает покоя и у которых нет времени отдохнуть или глубоко подумать.

Позвольте мне закончить это выступление одним личным советом. Ради вас самих, но также и ради общества: находите время заботиться о состоянии своего ума. Только тогда вы сможете найти способ восстановить доверие между людьми и тем самым добиться того, чтобы человечество не просто выжило, но и процветало в эпоху ИИ.