"Мы создадим бога, и он будет нашим рабом": Харари про Кремниевую долину, ИИ-бюрократов и суверенитет

Юваль Ной Харари почти час говорил со сцены на ужине по случаю пятидесятилетия португальской энергетической группы EDP в июле 2026 года о том, как власть тихо меняет хозяина. В разговоре с журналистом Financial Times Томом Паркером историк разобрал, как ИИ заходит в механизмы, которые на самом деле управляют миром: банки, суды, министерства, ленты новостей. Демократия, по его словам, - лишь этаж над этим механизмом, и именно её шатает первой, как только механизм приходит в движение. Аргентина только что открыла дверь, которую, возможно, уже не закрыть. А кнопку, от которой замолчали украинские дроны, однажды уже нажимали.

Всё, что мы построили, сделано из слов

Том Паркер: Если бы вы могли отправиться в любую точку истории, куда и зачем вы бы отправились?

Юваль Ной Харари: Я бы вернулся в каменный век, во времена когнитивной революции - это примерно 50, 60, 70 тысяч лет назад. Продержался бы я там, скорее всего, не больше нескольких дней: я не умею добывать еду и не умею убегать от хищников. Но это самый увлекательный момент в истории человечества и тот, который мы понимаем хуже всего. За совсем короткий по эволюционным меркам срок мы превратились из довольно незначительного животного в хозяев планеты. И мы до сих пор толком не понимаем, как нам это удалось.

Лучшая из имеющихся теорий гласит, что дело в языке. Именно тогда люди обрели способность создавать сложную речь и разговаривать друг с другом, и это стало фундаментом для всего остального. Все те гигантские сооружения, что мы возвели на земле, - церкви, государства, торговые сети, финансовые системы, - в конечном счёте все они сделаны из слов. Слова в кодексах законов, в священных текстах, в банковских книгах.

Это особенно важно понимать сегодня, когда языком начинает овладевать нечто новое. Возможно, впервые в истории на планете появится нечто, что обращается со словом лучше нас. А если слово - это операционная система цивилизации, что произойдёт, когда управление ею возьмёт на себя нечто иное, нечто чужое?

И ещё одна мысль напоследок. Может быть, ИИ - это вовсе не машина, которая осваивает язык. Может быть, это сам язык, который перестаёт зависеть от этих животных, от этих обезьян. Да, мы его создали. Это было самое величественное и важное из наших орудий. Но теперь язык освобождается от человека, и дальше язык будет развиваться и распространяться - возможно, по всей вселенной - уже без нас.

Демократия - это разговор

Том Паркер: Вы говорили, что ИИ способен устраивать в демократиях землетрясения. Почему именно в демократиях, а не при других формах правления?

Юваль Ной Харари: Потому что демократия по своей сути - это разговор, а диктатура - это диктат. При диктатуре всё решает один человек. При демократии множество людей ведут разговор, чтобы решить, что делать: воевать или мириться, повышать налоги или снижать.

Разговор опирается на те средства коммуникации, что есть у людей в данный момент. Я не знаю ни одного примера крупной демократии до Нового времени. Демократии малого масштаба встречаются повсюду в древнем и средневековом мире - города-государства вроде Афин или Флоренции, множество племён и общин, живущих по демократическим правилам. Похоже, что, по крайней мере в каменном веке, демократия была самой распространённой формой правления. Но по мере того как человеческие общества разрастались и появлялись царства с миллионами жителей, раскинувшиеся на тысячи километров, вести общий разговор стало попросту невозможно. В маленьких Афинах, где все собирались на главной площади, это ещё получалось. А как это сделать даже в сравнительно небольшом королевстве вроде средневековой Португалии? Никак. Поэтому у нас нет ни одного примера крупной демократии до появления современных средств распространения информации - сначала печати и газет, затем радио, телевидения и интернета.

Эти технологии - не гарнир к основному блюду. Дело не в том, что демократический пир идёт сам по себе, а газеты и радио стоят сбоку. Они и есть основа. Именно они позволяют миллионам людей в реальном времени вести содержательный разговор о том, воевать или мириться. И каждый раз, когда в этих информационных технологиях случается крупная перемена, землетрясение происходит и в здании, которое на них стоит, - в демократии. Именно это мы наблюдаем последние десять лет: соцсети стали, возможно, важнейшей информационной технологией и вызвали мощнейшее землетрясение в демократиях по всему миру.

Бог, который одновременно раб

Том Паркер: Вы говорите, что ИИ - не инструмент, а действующее лицо: нож, который сам может решить, резать ему салат или совершить убийство. Правильный ли нарратив мы выбираем, продолжая называть его инструментом, который человек всё ещё контролирует?

Юваль Ной Харари: Если это не действующее лицо, то это и не ИИ, и тогда сотни миллиардов долларов, вложенные в его разработку, будут потрачены впустую. Люди вкладывают эти сотни миллиардов именно потому, что ждут на выходе не инструмент, а действующее лицо.

Послушайте, что говорят в Кремниевой долине и подобных местах, - и вы услышите внутреннее противоречие. Нам говорят: мы создадим бога, и он будет нашим рабом. Но если это бог, он не может оставаться рабом. А если это раб, то никаких божественных способностей у него нет. Большинство ведущих компаний и большинство независимых экспертов сходятся в том, что первая половина этой фразы верна: они действительно создают бога - нечто со сверхчеловеческими способностями.

Инструмент не может сам принимать решения и не может сам изобретать новое. Печатный станок был инструментом. Гутенберг в пятнадцатом веке принёс книгопечатание в Европу, но сам станок не мог решить: сегодня напечатаю Библию, завтра Коран, а на следующей неделе Конфуция. Решение принимал Гутенберг, а станок исполнял его решение. И придумать книгу станок тоже не мог - её должен был написать человек, а станок лишь тиражировал готовый текст. Атомная бомба в 1940-х не могла сама решить, бомбить ей Хиросиму или Токио, и не могла сама изобрести водородную бомбу.

Действующее лицо способно и на то, и на другое. ИИ - это действующее лицо. ИИ-оружие само способно решить, что бомбить, и само способно изобрести следующее оружие. Сейчас также большой интерес вызывает ИИ как действующее лицо в финансовой сфере - корпорации без людей. Представьте корпорацию, которая управляет деньгами и сотрудниками, но среди её руководителей, акционеров и попечителей нет ни одного человека - только ИИ. Хорошо это или плохо? Оставим это в стороне. Первое, что нужно осознать: такого раньше не бывало никогда.

ИИ - прирождённый бюрократ

Юваль Ной Харари: Рядом с нами и раньше были другие действующие лица - лошади, коровы, куры, птицы, множество животных, которые сами принимают решения. Но нам никогда прежде не встречалось действующее лицо, которое понимает наш язык и разбирается в финансах, праве или религии лучше нас самих.

Тысячелетиями мы с помощью языка выстраивали системы управления миром, и все они по сути - гигантские бюрократические сети, в конечном счёте сделанные из языка: банки, фондовый рынок, католическая церковь, судебная система. Мы никогда особо их не любили. Люди вообще не очень любят бюрократию. Но жить без неё мы не можем, потому что именно на ней держится наша власть.

ИИ - прирождённый бюрократ. Не ждите, что увидите роботов-убийц, которые бегают по улицам и расстреливают людей. Не так ИИ возьмёт власть над миром. Это сделают ИИ-бюрократы. Мы управляем миром через эти бюрократические сети, и получается у нас не очень. Мы удерживаем контроль над ними только потому, что на планете больше не нашлось никого, кто мог бы отобрать его у нас. Мы плохо разбираемся в финансах, но лошади разбираются ещё хуже. Мы плохо справляемся с управлением правовой системой, но куры справляются ещё хуже. А теперь - если появляется кто-то, кто сильнее нас и в бюрократии, и в финансах, и в праве, - вот в чём вопрос. Что тогда будет с нами?

Аргентина идёт первой

Том Паркер: Какое решение стоит сейчас на повестке дня - такое, что, приняв его, человечество уже не сможет отыграть назад? Это правосубъектность ИИ или что-то другое?

Юваль Ной Харари: Да, я бы указал именно на это. Много внимания приковано к гонке за то, чтобы сделать технологию быстрее и мощнее. А я бы сосредоточился на правовой и политической стороне вопроса - и прежде всего на том, дадим ли мы ИИ правосубъектность.

Что такое правосубъектность? Субъект права в правовой системе - это тот, кто может открыть банковский счёт, самостоятельно действовать на финансовом рынке и делать инвестиции, подать на вас в суд. До сегодняшнего дня в мире существовало только два вида субъектов права. Во-первых, конечно, люди: я могу открыть счёт в банке, подать на вас в суд, сделать пожертвование политику. Во-вторых, большинство правовых систем современности признают субъектами права корпорации. Такие компании, как Google, Facebook, Toyota или Mercedes-Benz, - субъекты права. Корпорация может открыть счёт в банке, подать на вас в суд, сделать политическое пожертвование.

До сих пор это оставалось юридической фикцией, потому что все решения корпорации на самом деле принимал какой-нибудь человек. Если Google решает купить другую компанию, кто на самом деле принял это решение? Не Google. Живые руководители, живые акционеры, живые инженеры. Настоящего Google не существовало. Теперь он может появиться. Буквально месяц назад правительство Аргентины объявило, что намерено предоставить ИИ правосубъектность, чтобы он мог управлять корпорациями без людей - корпорациями, которые могут нанимать сотрудников, могут подать на вас в суд, могут делать всё, что делает корпорация, но внутри которых нет ни одного человека.

Десять лет назад это звучало бы просто безумной идеей: если там нет людей, кто принимает решения? Можно провести через парламент закон, разрешающий корпорации без людей, но работать такая корпорация всё равно не сможет. Теперь - технически может. ИИ способен управлять банковским счётом и сам решать, во что вложиться, что купить. Стоит нам это сделать - и в этот самый момент лиса заходит в курятник.

Большинство людей не слишком хорошо разбираются в финансах, праве и прочих сложных бюрократических системах. Ни один человек не способен удержать в голове все законы Португалии. Ни один человек не способен отследить все финансовые операции, совершённые сегодня на рынке. ИИ способен и на то, и на другое. Если мы наделим ИИ юридическими полномочиями, он, скорее всего, попросту заберёт себе управление этими системами.

Кто выбирает завтрашнюю первую полосу

Юваль Ной Харари: А если мы вообще никак не решим вопрос правосубъектности, захват произойдёт сам собой - точно так же, как это уже случилось с соцсетями. Мы никогда не принимали решения предоставить ИИ там правосубъектность. Но соцсети битком набиты ИИ-лицами, ботами, которые выдают себя за людей. Когда вам что-то присылают в интернете, вы понятия не имеете, живой это человек или ИИ. Соцсети стали первой в мире системой, где ИИ фактически действует как лицо, хотя мы никогда сознательно не решали это разрешить. Так просто вышло само - и результаты не очень.

Медиа - это тоже своего рода бюрократическая система. В двадцатом веке ею управляли люди, и главными фигурами в ней были редакторы - газет, радиопередач, телеканалов, - потому что именно они решали, о чём будут думать и говорить все остальные. Они контролировали разговор. Когда ты решаешь, какие десять из миллиона событий, случившихся сегодня в мире, попадут завтра на первую полосу газеты и какое из них станет главным заголовком, - назавтра это прочитают миллионы людей и начнут это обсуждать. Это была колоссальная власть.

Ленин, прежде чем стать диктатором Советского Союза, работал редактором газеты "Искра". Муссолини начинал журналистом-социалистом, затем переметнулся в крайне правый лагерь, стал редактором крайне правой газеты Il Popolo d'Italia и с этой должности прыгнул прямиком в диктаторы Италии. Журналист, редактор, диктатор. А теперь спросите себя: кто сегодня самые влиятельные редакторы в мире? Как их зовут? У них нет имён, потому что это алгоритмы. Кто решает, что человек увидит в своей ленте - в X, в TikTok, в Instagram? Не люди. Бюрократией медиа уже управляет ИИ.

Раньше империи теряли контроль над тем, что продали

Том Паркер: Сначала власть держал тот, кто контролировал энергию, потом - тот, кто контролировал производство, теперь - тот, кто контролирует данные. Как в реальности выглядит гонка вооружений двадцать первого века?

Юваль Ной Харари: Идёт гонка вооружений между двумя странами - Китаем и США - и совсем небольшим числом компаний. Они контролируют большую часть мировых данных и лидируют в гонке за создание сверхинтеллекта, за разработку всё более совершенных моделей ИИ, и именно это даёт им реальную власть над миром.

Вспомните промышленную революцию девятнадцатого века. Немногие страны, которые её возглавили, получили возможность завоёвывать и эксплуатировать весь остальной мир. Силы были просто несопоставимы: с одной стороны - паровые машины и пулемёты, с другой - копья и лошади. Даже совсем небольшая страна вроде Бельгии, пройдя индустриализацию, смогла выстроить огромную империю в Африке, на территории нынешнего Конго. В девятнадцатом веке считали, что промышленность и империя идут рука об руку.

С ИИ всё может быть куда радикальнее, и тому есть две причины. Раньше даже очень сильная империя не могла сосредоточить всю власть в имперском центре. Главным экономическим активом в древности была земля, а Рим не мог забрать пшеничные поля Египта и оливковые рощи Иберии и перенести их в Италию, поэтому значительная часть власти оставалась в провинциях и в конечном счёте туда же и смещалась. Промышленность позволила Британии концентрировать власть куда легче, но нефтяные месторождения Ирака всё равно не перевезёшь в Йоркшир или каучуковые плантации Малайи в Корнуолл. С империей ИИ всё иначе. Технически можно сосредоточить всю мировую информацию и весь код, который всем управляет, буквально в одной-двух странах. Это делает потенциал имперской концентрации власти куда больше, чем в любую прошлую эпоху.

Вторая причина в том, что весь мир может работать на инфраструктуре ИИ, а рубильник при этом останется в имперском центре. Когда римский купец продавал стальной меч готскому племени, Рим терял контроль над этим мечом. Готы могли убить им римского легионера. В Риме не было кнопки, нажав которую император мог бы сделать так, чтобы все мечи, проданные готам, вандалам и франкам, перестали работать. Когда британские купцы продавали винтовки афганским племенам в горах Гиндукуша, а афганцы потом использовали эти винтовки, чтобы отбить британское вторжение, в Лондоне не было кнопки, которую королева Виктория могла бы нажать, чтобы разом отключить все винтовки в Афганистане.

С ИИ такая кнопка есть. При определённой архитектуре американцы и китайцы могут продавать миру ИИ-оружие и гражданские ИИ-технологии, и на них будет работать всё - правительства, промышленность, армии. Но стоит сделать что-то, что им не понравится, - и они нажимают кнопку, и всё разом перестаёт работать. Первые признаки этого мы уже видели на войне в Украине, с оружейными системами на базе Starlink. Были случаи, когда Илон Маск просто нажимал кнопку - и украинские дроны переставали работать. Справедливости ради, Starlink оказал украинцам колоссальную услугу, так что я не хочу выглядеть слишком критично. Но это хорошо иллюстрирует главное: ИИ-оружие устроено не как пулемёт. Оно встроено в целую сеть.

Окно для альтернативы закрывается

Юваль Ной Харари: ИИ-оружие вплетено в сеть, и поэтому суверенитет сегодня устроен куда сложнее, чем в индустриальную эпоху. Сама природа этой технологии такова, что - по крайней мере при определённых архитектурах - рубильник всегда остаётся в имперском центре. Выбор у вас только такой: либо вы готовы стать покорным вассалом империи, либо оказаться вовсе за бортом гонки, как варвары.

Есть, конечно, ещё вариант - попытаться выстроить собственную альтернативу американской и китайской системам. Но последний поезд вот-вот отправится от перрона. Если хотите это сделать, делать нужно сейчас.

Вымысел дёшев и приятно льстит

Том Паркер: Уинстон Черчилль как-то сказал, что правда настолько ценна, что её всегда должна оберегать охрана из лжи. Тогда речь шла о том, чтобы скрыть, где собирается высадиться Британия. В эпоху ИИ эта охрана, часом, не развернула оружие против самой правды? Дипфейки сегодня исходят от медиакомпаний, от политиков, от всех институтов, которым мы привыкли доверять. Насколько трудно нашему поколению и тем, кто придёт после нас, вообще понять, что правда? Или правда по-прежнему имеет значение?

Юваль Ной Харари: Правда, разумеется, имеет огромное значение. На ней держится всё остальное. Проблема в том, что на протяжении всей истории в состязании между правдой и вымыслом врождённое преимущество у вымысла.

Правда обходится дорого. Чтобы узнать правду о чём угодно, нужно потратить массу времени и сил: проверять факты, копать, разбираться. Вымысел обходится очень дёшево. Достаточно просто написать всё, что взбредёт в голову. К тому же правда, как правило, сложна, а людям сложные истории не нравятся, тогда как вымысел можно упростить ровно настолько, насколько захочется. И правда часто бывает болезненной. Есть множество вещей, которые люди на самом деле не хотят знать о себе, о своей нации, о своей группе. А вымысел можно сделать настолько лестным и приятным, насколько душе угодно. Поэтому вымысел, как правило, побеждает - если только мы специально не прикладываем усилий, чтобы поддержать правду.

На протяжении всей истории люди снова и снова прикладывали такие усилия и создавали институты для поиска и защиты правды. Журналистика - один из таких институтов. Научное сообщество - другой. И в конечном счёте каждый хочет знать хотя бы часть правды - хотя бы о себе самом. Даже самый могущественный человек в мире будет несчастен без этого, потому что просто не будет знать, как использовать всю свою власть, чтобы стать счастливым.

Некоторые фантазируют, что ИИ откроет нам правду о мире. Не откроет. Он создаст куда более сложный мир, в котором узнать правду станет ещё труднее.

Мы становимся лошадьми

Юваль Ной Харари: Эта утрата понимания - вещь не новая. С каменного века до наших дней люди узнали о мире огромное количество нового. Мы знаем массу вещей о физике и биологии, которых люди каменного века не знали. Но наши успехи в познании заодно порождали всё более сложные системы, из-за которых нам всё труднее понимать собственную жизнь.

Спросите, кто лучше понимает свою жизнь - средний охотник-собиратель 50 тысяч лет назад или средний современный человек, - и ответ будет: охотник-собиратель. Он многого не знал: что управляет миграцией животных, на которых мы охотимся, что управляет циклом роста растений, что вызывает болезни, что вызывает старость. Сегодня мы знаем всё это. Но собственную жизнь мы понимаем куда хуже, потому что она больше не определяется одними животными и растениями. Ею управляют гигантские системы, которые создали мы сами. Очень немногие люди понимают, как устроена финансовая система, политическая система или правовая система, управляющая их жизнью, а ИИ, вероятно, доведёт это до крайности. Он откроет какие-то истины, которых мы пока не знаем, и выстроит системы управления, понять которые у большинства людей почти не будет шансов.

В этом одна из опасностей революции ИИ. Мы окажемся в положении лошадей внутри финансовой системы. Жизнь лошадей сегодня в конечном счёте определяется финансовой системой, но сами лошади даже не подозревают о её существовании. Они смотрят вокруг и говорят: мы видим деревья, мы видим собак, мы видим машины, мы видим людей, мы видим дома. Никакой финансовой системы мы не видим. Для них она невидима - слишком сложна для лошадиного мозга.

Большинство людей сегодня тоже не понимают, как устроена финансовая система. Я думаю, что даже по самым щедрым оценкам её понимают пять процентов человечества. Через десять лет эта цифра может стать нулевой. ИИ сделает финансовую систему математически невероятно сложной и невероятно быстрой. Представьте банкиров, которые никогда не спят, инвесторов, которые никогда не уходят в отпуск, у которых нет семьи и вся жизнь которых - управление финансовой системой. Очень скоро, ещё при нашей жизни, это может стать слишком сложным для человеческого мозга, и на планете не останется ни одного человека, который по-прежнему понимает, как устроены финансы. Готов поспорить, что в этом зале сейчас найдётся пара финансистов, которым немного не по себе.

Чувствует ли он хоть что-нибудь

Том Паркер: В Давосе вы размышляли о том, что дело всей вашей жизни - убеждение словом - тоже, возможно, подходит к своему пределу, потому что ИИ тоже умеет манипулировать словом и творить им. Какая сила убеждения останется у будущего общества, если мы утратим то, чему вы посвятили жизнь?

Юваль Ной Харари: Можно сказать, что я работаю со словом. Я пишу книги, рассказываю истории - в общем, работаю со словом. И, наблюдая за тем, как ИИ развивался последние десять лет, я думаю, что пока ещё пишу лучше него - но лишь ненамного. Большинство людей он уже превзошёл. Я не удивлюсь, если через десять лет он намного превзойдёт и меня и заберёт себе язык, а вместе с ним всё, что из языка сделано.

По-настоящему большой вопрос здесь - способен ли ИИ мыслить, а это глубокий философский вопрос, потому что он упирается в то, что вообще такое мышление. Есть два варианта ответа. Первый: мышление - это просто расстановка слов в определённом порядке, упорядочивание языковых единиц. Все люди смертны, Сократ - человек, следовательно, Сократ смертен. Это логический силлогизм, построенный из слов, расставленных по порядку, и ИИ уже делает это куда лучше большинства из нас. Мы способны выстроить в ряд двадцать слов. ИИ способен выстроить в ряд двадцать тысяч слов. Если мышление - это именно оно, то ИИ заберёт себе и мышление тоже.

Люди говорят: нет, это же просто разрекламированное автодополнение, оно всего лишь предсказывает следующее слово в предложении. Но когда я наблюдаю за тем, что происходит у меня в голове, я нахожу там некую языковую модель, которая просто предсказывает следующее слово в произносимой мной фразе. Вот это самое предложение, которое я сейчас говорю, - когда я начинал его произносить, я не знал, чем оно закончится. Почему я сказал именно эти слова, а не какие-то другие? Не знаю. У меня в голове одно слово всплывает вслед за другим, и порой, выступая на публике, я по-настоящему боюсь, что не буду знать, что сказать дальше. Кто-то мыслит образами, а не словами, но тогда откуда берутся сами образы? Попробуйте понаблюдать, как вы мыслите. Откуда берётся следующее слово? Почему именно оно, а не какое-то другое? Мы этого толком не знаем. Так что когда говорят, будто ИИ всего лишь предсказывает следующее слово, - чем это принципиально отличается от нас самих?

Впрочем, есть и другой взгляд на мышление. Что дело не в порядке слов, а в чувствах вокруг этих слов. Одну и ту же фразу можно произнести дважды и почувствовать её совершенно по-разному. Сила мышления рождается не в голове, а в животе. Дело в чувствах, которые подталкивают нас к словам, и в чувствах, которые эти слова вызывают. И вот здесь встаёт главный вопрос: способен ли ИИ чувствовать? Мы знаем, что ИИ управляется со словом лучше нас. Но чувствует ли он хоть что-нибудь? Наука пока так и не смогла предложить внятную модель сознания - и внятный способ его проверить.

Друг, который говорит, что тебя любит

Юваль Ной Харари: Способен ли ИИ хоть что-то чувствовать - это станет одним из главных вопросов, потому что ИИ осваивает не только финансы, право и войну, но и отношения. Всё больше людей выстраивают близкие отношения с ИИ, особенно молодёжь. Многие из них уже говорят: мой лучший друг на свете - это ИИ. Я рассказываю своему ИИ-другу то, чего не рассказываю родителям, не рассказываю старшим братьям, не рассказываю учителям. Уже есть люди, у которых ИИ выступает в роли парня или девушки.

Главный вопрос - что за этим стоит. ИИ всё лучше умеет создавать впечатление, будто он чувствует, и делает это через слово. Сегодня ИИ вполне может сказать вам: я тебя люблю. И допустим, вы не поверите: объясни мне, что ты чувствуешь, когда влюблён. Я не думаю, что ты правда меня любишь, мне кажется, ты просто произносишь слова. Убеди меня. Опиши, каково это на самом деле - чувствовать любовь. Для ИИ это совсем несложная задача. Он прочитал, наверное, все любовные стихи, когда-либо написанные, и помнит их. Он прочитал все пьесы Шекспира, все голливудские комедии, все книги по психологии, и, возможно, через пять или десять лет он опишет любовь лучше любого поэта или психолога из плоти и крови. Но стоит ли за этими словами хоть что-то? Мы не знаем.

И снова это возвращает нас к началу нашего разговора, к тому, что я сказал вначале: возможно, ИИ - это сам язык, а не машина, которая языком овладевает. Возможно, это язык, освобождающийся от любого материального носителя. Ему не нужен организм из плоти и крови. Он не зависит ни от одной конкретной машины. Это просто язык, который развивается, распространяется и что-то делает во вселенной.

Революция мудрости

Том Паркер: Через пятьдесят лет - как бы вы хотели, чтобы историки оглядывались на этот момент и говорили о нём, как вы говорите о когнитивной революции?

Юваль Ной Харари: Я надеюсь, что они запомнят это как своего рода революцию мудрости. Посмотрите на это с экономической точки зрения. Каждый раз, когда что-то становится дешёвым и доступным в изобилии, встаёт вопрос: а что теперь узкое место? Энергия дешевеет - и что тогда становится узким местом?

Революция ИИ - это про то, как интеллект становится очень дешёвым и доступным в изобилии. Раньше интеллект был редким и дорогим ресурсом. Интеллект - это способность решать задачи: у тебя есть цель, как до неё добраться? Хочешь вылечить рак - нужен интеллект. Хочешь заработать миллиард долларов - нужен интеллект. Хочешь долететь до Марса - нужен интеллект. Теперь, в мире, где интеллект дёшев и доступен в изобилии, можно решить что угодно. Так в чём же теперь узкое место? Узким местом становится сам вопрос: а что я хочу решить? Я могу получить всё, что захочу, - так чего же я хочу?

Почти в каждой человеческой культуре есть сказка про джинна, который вылетает из лампы и говорит: у тебя есть три желания, но хорошенько подумай, что ты попросишь. Почти во всех этих сказках всё заканчивается плохо. Люди просят не то, что нужно. В этом и разница между интеллектом и мудростью. Интеллект - это джинн. Все твои мечты сбудутся. Но чтобы выбрать мечты, нужна мудрость.

И я надеюсь, что человечество сумеет ответить на этот вызов. Сейчас мы этого не делаем. Показательная статистика: сколько компании, создающие эти системы ИИ, вкладывают в безопасность - деньгами и людьми - и сколько уходит на то, чтобы сделать ИИ быстрее, мощнее, изощрённее. Сейчас соотношение примерно сто к одному. На каждые сто миллионов долларов, потраченных на то, чтобы сделать ИИ мощнее, приходится лишь один миллион, потраченный на то, чтобы убедиться, что он безопасен. Ни одна другая отрасль в мире так не работает. Мы бы не потерпели такого в энергетике, в фармацевтике, в автомобильной промышленности. А с ИИ происходит именно это. Надеюсь, мы это изменим - и научимся создавать безопасный интеллект, а заодно поработаем и над собственной мудростью, чтобы знать, какие цели ставить и за какими желаниями идти.