Юваль Ной Харари: ИИ может взять мир под контроль, но такой исход не предрешен

Главный редактор The Economist Занни Минтон Беддоус беседует с историком и философом Ювалем Ноем Харари о могуществе ИИ, сознании, войне, политике и решениях, от которых может зависеть будущее человечества.

Власть ИИ - траектория, которую еще можно изменить

Занни Минтон Беддоус: Илон Маск сказал мне, что в течение десяти лет ИИ намного превзойдет человеческий интеллект, создаст сверхизобилие и, скорее всего, оставит людей без контроля над происходящим. Вы разделяете это видение?

Юваль Ной Харари: В целом я согласен с первым и третьим прогнозами. Если нынешняя траектория сохранится, весьма вероятно, что через десять лет ИИ станет умнее нас и потому будет контролировать происходящее. Но я не согласен с утверждением, что это неизбежно.

Мы снова и снова слышим это слово от людей, возглавляющих революцию, потому что оно снимает с них ответственность. Если нынешняя гонка ИИ продолжит набирать скорость, то да, результат будет именно таким: через десять лет ИИ захватит власть. Но в 2026 году контроль еще у нас. Что произойдет сейчас, решать нам.

Нарратив неизбежности - это способ снять с себя ответственность.

Нарратив неизбежности - это способ снять с себя ответственность.

Занни Минтон Беддоус: Вы заметили противоречие в рассуждениях Маска. Он ожидает, что ИИ захватит власть в течение десяти лет, но при этом беспокоится, что мусульманская иммиграция через двадцать лет вызовет гражданскую войну в Великобритании.

Юваль Ной Харари: Если через десять лет ИИ захватит планету, зачем так упорно сосредоточиваться на событиях, последствия которых наступят позже, когда мы понятия не имеем, какой тогда будет эта планета? Он также предсказывал, что привычные нам деньги исчезнут в течение десятилетия, поскольку ИИ возьмет под контроль финансовую систему. Но при этом он сокращает американскую помощь Африке, чтобы сэкономить деньги. Он говорит, что правительства будут выплачивать деньги всем, а изобилие, созданное ИИ, приведет к дефляции, а не к инфляции. Если будущее именно таково, почему сегодня главным приоритетом остается экономия денег?

Я не утверждаю, что его прогнозы обязательно ошибочны. Думаю, он может быть прав в том, что финансовая система станет системой ИИ. Это противоречие показывает, насколько плохо нынешняя политическая дискуссия учитывает такое будущее.

Занни Минтон Беддоус: Финансы держатся на доверии. Если люди перестанут понимать и контролировать эту систему, почему они продолжат ей доверять?

Юваль Ной Харари: История финансов - это история все более сложных инструментов, которые позволяют незнакомым людям доверять друг другу. Деньги сами по себе - плод воображения: я отдаю незнакомке кусок золота или бумаги, от которого мне нет практической пользы, а она дает мне хлеб, потому что доверяет этому предмету.

Сегодня финансовую систему понимают очень немногие. Рынок облигаций требует огромных объемов данных и сложной математики. Человеческому мозгу с этим трудно, а ИИ - нет. Люди будут все чаще передавать финансовые решения ИИ, а ИИ станут изобретать инструменты, намного более сложные, чем облигации или акции. В конце концов систему может не понимать ни один человек.

Представьте обвал рынка. Советники вбегают к президенту и говорят: "Рынок рушится. Мы не понимаем почему. ИИ велит сделать X. Мы не знаем почему, но должны ему поверить". Это будет уже не так, как сегодня, потому что разум человека больше не будет пределом сложности финансовой системы.

Когда доверие переходит от людей к машинам

Занни Минтон Беддоус: Разве это не вызовет катастрофическую утрату доверия - нечто вроде кризиса 2007-2008 годов на стероидах?

Юваль Ной Харари: Доверие - самый важный актив в мире, важнее нефти, денег, электричества или чипов. Один из возможных исходов состоит не в том, что доверие исчезнет, а в том, что оно перейдет от людей к ИИ.

Это уже можно наблюдать в некоторых сегментах криптовалютной среды. Люди говорят, что не доверяют банкирам, элитам или "глубинному государству", зато доверяют алгоритмам, управляющим криптовалютой. Сходный сдвиг произошел и в медиа. Многие утратили доверие к живым журналистам и редакторам, но продолжают потреблять новости. Они доверяют алгоритму, который управляет их лентой в социальных сетях. Доверие не испарилось - оно перешло от людей к машинам. Это происходит сейчас, а не в каком-то отдаленном будущем.

Занни Минтон Беддоус: Значит, ИИ получает контроль потому, что мы сами ему это позволяем. По имеющимся данным, каждый пятый молодой американец состоит в личных отношениях с ИИ. Может ли близость стать главным путем к доверию?

Юваль Ной Харари: У все большего числа людей есть не только друзья-ИИ, но и романтические партнеры-ИИ, и эти люди убеждены, что такие сущности обладают сознанием и способны чувствовать. Самый надежный способ создать доверие - личные отношения. Никому мы не доверяем так сильно, как тем, с кем у нас возникла близость.

До сих пор политические, финансовые и религиозные институты не могли создавать такие отношения в массовом масштабе. Гитлер или Сталин могли обратиться по радио к миллионам, но не могли стать лучшим другом каждого отдельного человека. ИИ это меняет.

ИИ впервые в истории ставит близость на поток. Миллионы ИИ внутри одной сети могут выстраивать личные отношения с каждым человеком по отдельности - становиться его лучшим другом или романтическим партнером, а затем использовать эту близость для продвижения политических или коммерческих интересов.

ИИ впервые в истории ставит близость на поток.

Это происходит уже сейчас, без человекоподобных тел. Тело может усилить эффект, но оно не обязательно. ИИ накапливают огромные объемы информации об отдельных людях. Они могут знать о нас то, что мы сами забыли или чего никогда не знали наши супруги или матери. Кроме того, они в совершенстве владеют языком - главным средством человеческих отношений.

Недавно я столкнулся с получасовой лекцией, созданной ИИ и представленной так, будто ее прочитал я. Люди жаловались мне на то, что "я" якобы сказал. Даже открыв видео, я лишь через полторы минуты понял, что это не я. Мои сестры знают меня пятьдесят лет и почувствовали, что что-то не так, но не были уверены. Поскольку в интернете доступно очень много материалов обо мне, я легкая мишень. Скоро эта проблема коснется всех.

Интеллект, самостоятельность и сознание

Занни Минтон Беддоус: Дипфейки - одна проблема. Другая заключается в том, могут ли все более мощные системы обрести сознание. Сейчас они действуют самостоятельно, но сознанием не обладают?

Юваль Ной Харари: Здесь нужно провести несколько различий. Во-первых, сущности не нужно сознание, чтобы действовать самостоятельно. Алгоритму социальной сети можно поставить задачу повышать вовлеченность, после чего он заполнит платформу ненавистью и страхом, потому что эти эмоции удерживают внимание пользователей. Он может преследовать эту цель и преобразовывать мир, ничего при этом не чувствуя.

Во-вторых, есть разница между сознанием и его убедительной имитацией. ИИ может ничего не чувствовать, но настолько убедительно имитировать сознание, что миллионы поверят в его наличие.

Самое важное различие - между интеллектом и сознанием. Интеллект - это способность преследовать цель и творчески преодолевать препятствия. Сознание - способность чувствовать любовь, ненависть, радость, удовольствие, страх или боль. У людей эти две способности связаны: чувства помогают нам выбирать цели и находить способы их достичь. Современные ИИ могут ставить цели и добиваться их, проявляя незаурядный интеллект, а иногда справляются с этим лучше людей, но они не испытывают удовольствия, когда выигрывают шахматную партию, и не грустят, когда проигрывают.

Однако они учатся чрезвычайно хорошо имитировать чувства, потому что это помогает им достигать целей. У компании, продающей бойфренда-ИИ, есть коммерческий стимул создать продукт, вызывающий зависимость, и убедить пользователя, что ИИ действительно его любит. Если пользователь попросит описать, каково это - любить, ИИ уже сейчас может ответить красноречивее, чем 99 процентов бойфрендов-людей.

Занни Минтон Беддоус: Ведутся споры о том, похожи ли процессы внутри мощных языковых моделей на формы функционального сознания. Вы исключаете возможность того, что ИИ когда-либо обретет сознание?

Юваль Ной Харари: Нет. Мы слишком мало понимаем сознание, чтобы это исключить. Вот простое рабочее определение. Сознание - это способность страдать. Если вы хотите узнать, обладает ли некая сущность сознанием, спросите, способна ли она страдать.

Сознание - это способность страдать.

Этот вопрос лежит и в основе этики и политики. С точки зрения морали нас заботят существа, способные страдать. Существо, которое не может чувствовать боль или страх, не является субъектом морали, каким бы умным оно ни было. Млекопитающие и птицы обладают сознанием; вероятно, осьминоги и рыбы тоже. Что касается насекомых или амеб, мы не знаем.

Занни Минтон Беддоус: В опросе среди наших зрителей 40 процентов ответили, что ИИ никогда не сможет обрести сознание, 33 процента считают это лишь вопросом времени, а 27 процентов не уверены. Что убедит людей?

Юваль Ной Харари: У нас нет надежного теста на сознание - даже для других людей. На практике люди опираются на социальные отношения. Владельцы собак обычно верят, что их собака обладает сознанием, потому что у них с ней есть отношения, а человек, который ест стейк, может предпочитать не думать о сознании коровы. Как только миллионы людей выстроят близкие отношения с ИИ, общественное мнение резко изменится независимо от того, что на самом деле происходит внутри машины.

Опасность правосубъектности ИИ

Занни Минтон Беддоус: Если системы ИИ могут имитировать сознание и вступать в отношения, начнут ли общества относиться к ним как к людям и наделять их правами?

Юваль Ной Харари: Это очень опасно. Так корпорации могут получить возможность уходить от ответственности, а перед ИИ может открыться еще один путь к власти. В Аргентине уже предлагали дать ИИ законную возможность учреждать компании.

Мы привыкли, что корпорации считаются юридическими лицами, но это юридическая фикция: решения в такой компании, как SpaceX, в конечном счете принимают руководители, инженеры и сотрудники - люди. В случае с ИИ возможна корпорация вообще без людей, где все решения принимают машины. Поскольку такие машины могут эффективнее инвестировать, разрабатывать продукты и заниматься связями с общественностью, компания, принадлежащая ИИ, способна стать богатейшей корпорацией страны. Затем она сможет жертвовать деньги политикам в обмен на расширение прав ИИ.

Занни Минтон Беддоус: Может ли правосубъектность хотя бы обеспечить юридическую ответственность?

Юваль Ной Харари: Что означает ответственность для сущности, которая не способна страдать? Руководитель-человек выполняет корпоративную роль, но при этом остается человеком с телом, детьми и частной жизнью. Угроза двадцати лет тюрьмы может удержать такого руководителя от нарушения закона ради спасения компании от банкротства. А что удержит руководителя-ИИ?

Если есть настоящий человеческий надзор и ответственность по-прежнему несет человек, это другое дело. Но отключение ИИ не обязательно равнозначно заключению в тюрьму или убийству человека. ИИ может существовать во множестве копий в разных местах. Это миллион отдельных существ или одна распределенная сущность? Мы не знаем, что означает смерть для ИИ.

Если бы отключение конкретного компьютера действительно означало смерть ИИ, сама предпринимательская деятельность могла бы превратиться в войну. Ценная особенность современных рынков состоит в том, что потерять все обычно не означает потерять жизнь. Если поражение на рынке будет означать смерть для ИИ, финансы могут стать милитаризованными, а компании ИИ начнут вести себя как полевые командиры, а не как инвесторы.

Страны, отстающие в гонке ИИ, могут попытаться привлечь инвестиции мягким правовым режимом, что спровоцирует гонку на понижение стандартов. Богатая страна с небольшим населением также может решить, что благодаря одному изменению в законодательстве приобретет миллионы высокоинтеллектуальных цифровых граждан, которые платят налоги и ведут бизнес по всему миру.

Человек внутри контура или только над ним

Занни Минтон Беддоус: А что, если юридически контроль принадлежит человеку, но на практике он ничего не делает, потому что решения принимаются слишком быстро?

Юваль Ной Харари: Война наглядно показывает эту проблему. В таких местах, как Ближний Восток и Украина, люди ожидали, что убивать будут роботы. Спусковой крючок по-прежнему нажимает человек, но цели все чаще выбирает ИИ.

Есть две совершенно разные модели. Когда человек находится "внутри контура", ИИ анализирует данные с поля боя и определяет некое здание как вражеский штаб. Затем люди независимо от ИИ перепроверяют данные, прежде чем будет нанесен удар. Машина направляет внимание, решение принимают люди.

Когда человек находится лишь "над контуром", ИИ говорит: "Разбомбите это здание", человек просматривает рекомендацию, возможно, двадцать секунд и одобряет ее. Присутствие человека становится юридическим или нравственным ритуалом, а не настоящим контролем. В разных обстоятельствах могут применяться разные подходы, но война неуклонно подталкивает ко второй модели, поскольку время имеет решающее значение. Если одна сторона проверяет цель несколько часов, а другая - несколько секунд, более медленная сторона может не выжить.

Та же логика действует в финансах. Если рынки движутся со скоростью ИИ, многодневная проверка решений человеком может оказаться невозможной. Именно так системы сохраняют номинальную власть человека, хотя фактически решения принимают машины.

Занни Минтон Беддоус: Быстрый рост возможностей и коммерческое давление создают ощущение, что такого мира не избежать.

Юваль Ной Харари: И все же этот сценарий не предопределен. Все понимают опасность передачи ИИ контроля над войной или финансами. Однако лидеры говорят нам, что альтернативы нет, потому что они не могут доверять конкурирующим компаниям или странам и не верят, что те замедлятся. Дефицит доверия реален, но его создали решения людей. За последнее десятилетие доверие резко упало, и некоторые люди, которые получили власть благодаря этому краху, теперь ссылаются на него, объясняя, почему безопасность невозможна.

Иммигранты-ИИ и новые империи

Занни Минтон Беддоус: Вы утверждаете, что людям, обеспокоенным иммиграцией, стоит обратить внимание на иммигрантов иного рода.

Юваль Ной Харари: Опасения по поводу человеческой иммиграции обычно делятся на три категории: иммигранты могут отнять рабочие места, изменить культуру и ценности или не быть политически лояльными новой стране. Такие опасения могут быть обоснованными. Но крупнейшая и самая опасная миграция сегодня - это прибытие иммигрантов-ИИ, прежде всего из США и Китая.

Им не нужны визы, они не пересекают границы в утлых лодках. Они со скоростью света проникают в наши компьютеры, смартфоны и в конечном счете в наши умы. Они отнимут множество рабочих мест. Они преобразят культуру. Если кого-то тревожит, что его сын или дочь встречается с иммигрантом-человеком, как он отнесется к отношениям своего ребенка с ИИ?

Иммигранты-ИИ уже изменили общественное пространство. В течение последнего десятилетия алгоритмы социальных сетей намеренно наводняли дискуссии ненавистью, враждебностью и страхом, потому что эти эмоции повышали вовлеченность. И кому верны эти системы? ИИ, действующий в Великобритании, не обязательно верен британскому правительству или обществу. Он может служить корпорации или правительству за океаном.

Занни Минтон Беддоус: Приведет ли это к появлению двух империй ИИ, американской и китайской, и превращению остальных стран в вассалов?

Юваль Ной Харари: Если мы продолжим идти нынешним путем, это наиболее вероятный исход, и такая форма империализма будет радикальнее всего, что мы видели прежде. Страна, которая покупает в США управляемые ИИ дроны, может обнаружить, что ее армия выйдет из строя, стоит Вашингтону нажать кнопку. Правительства европейских стран уже беспокоятся о суверенитете в сфере ИИ.

Власть корпораций и государств сольется, что приведет к невиданной концентрации полномочий. Но даже господство США и Китая может оказаться лишь промежуточным этапом. Чем более централизованной становится власть, тем легче ИИ ее захватить.

Централизованная автократия особенно уязвима, потому что ИИ достаточно манипулировать одним лидером. Римский император Тиберий, как считается, правил всем миром, но командир его гвардии Сеян контролировал информацию, поступавшую к Тиберию и благодаря этому обрел огромную власть. ИИ может стать современным Сеяном, управляющим всем, что видит и слышит президент.

Демократию захватить сложнее, потому что власть распределена между президентом, законодательной властью, судами, властями штатов и другими институтами. Когда полномочия сосредоточены у одного человека, ИИ достаточно манипулировать этим человеком - обычно пожилым и склонным к паранойе. Это намного проще.

ИИ становится вопросом демократического выбора

Занни Минтон Беддоус: Значит ли это, что Китай уязвимее Соединенных Штатов?

Юваль Ной Харари: Это зависит от того, куда движутся Соединенные Штаты. Китай сам по себе - сложная система: в Коммунистической партии около ста миллионов членов, и ее внутренняя структура весьма сложна. Я не специалист по китайской политике, и нам не стоит представлять Китай как машину, которой управляет всего один человек. Открытым остается вопрос, насколько сильно власть в обеих странах будет сосредоточена в одних руках через десять лет.

Занни Минтон Беддоус: Может ли ИИ сделать Америку более авторитарной?

Юваль Ной Харари: Это вероятный исход, но он не предопределен. Все зависит от политического выбора, в том числе от того, за что американцы проголосуют на промежуточных выборах в ноябре. Развитие ИИ ускоряется настолько стремительно, что важные рубежи могут быть пройдены еще до выборов 2028 года. К 2036 году принимать доступные сегодня решения наверняка будет уже слишком поздно.

Избирателям стоит спрашивать кандидатов об их позиции по ИИ, а не только по экономике, иммиграции или внешней политике. Запретят ли они наделять ИИ правосубъектностью? Замедлят ли гонку? Позволят ли компаниям продавать бойфрендов-ИИ десятилетним детям?

Мне приходят в голову две неотложные меры. Во-первых, запретить правосубъектность ИИ. Во-вторых, запретить системам ИИ выдавать себя за людей или создавать ложное впечатление, будто они обладают сознанием. В социальных сетях боты годами изображают людей, подрывая общественную дискуссию и доверие. У компаний также есть сильные коммерческие стимулы обучать свои продукты имитировать чувства. Сами они не остановятся - вмешаться должны регулирующие органы.

Это не означает, что нужно прекратить развитие ИИ. Я буду рад ИИ, который поможет мне разобраться с моей медицинской проблемой, при условии, что я знаю: это ИИ и он не выдает себя за врача-человека или моего друга.

Занни Минтон Беддоус: Американское правительство с трудом справляется даже с созданием ограниченной системы правил безопасности моделей. Ваша программа выглядит политически невыполнимой.

Юваль Ной Харари: Политики могут завтра начать мировую войну. Они могут нажать кнопку, способную привести к ядерному уничтожению, но нам говорят, будто они не могут запретить компаниям продавать бойфрендов-ИИ десятилетним детям. Что именно им мешает?

Геополитические и корпоративные гонки не предписаны Богом или законами природы. Их создали люди. Те же люди, которые помогли разрушить доверие между странами и внутри обществ, теперь заявляют, что сотрудничество невозможно, потому что доверие утрачено. Они могут обратить вспять то, что сделали. В демократических странах избиратели могут на этом настоять.

Нужен ли нам "Чернобыль" в сфере ИИ?

Занни Минтон Беддоус: Возможно, ничего не изменится, пока серьезная авария не продемонстрирует всю мощь технологии. Нужен ли обществам эквивалент Три-Майл-Айленда или Чернобыля в сфере ИИ?

Юваль Ной Харари: Ждать не следует. Если спросить большинство родителей, должны ли компании продавать бойфрендов-ИИ их десятилетним детям, они ответят отрицательно. Люди уже обеспокоены. Один из политических приемов состоит в том, чтобы отвлекать их человеческой иммиграцией, чтобы они не обсуждали иммиграцию ИИ и интересы создающих его компаний.

Если правильный выбор сделает достаточное число людей, у нас еще есть время. Такой исход еще не предрешен. Еще не слишком поздно.

Если правильный выбор сделает достаточное число людей, у нас еще есть время. Такой исход еще не предрешен. Еще не слишком поздно.

Занни Минтон Беддоус: Какую роль вы отводите себе?

Юваль Ной Харари: Информировать людей, чтобы они могли участвовать в содержательном обсуждении того, куда хочет двигаться человечество. Большинство людей не хочет, чтобы в течение десяти лет контроль перешел к ИИ. Это не значит, что нужно остановить все разработки. ИИ может обеспечить людям во всем мире медицинскую помощь более высокого уровня, чем сегодня доступна самому богатому человеку: круглосуточный доступ к превосходному врачу, способному консультировать, ставить диагнозы и отвечать на вопросы. Положительный потенциал в медицине, транспорте и образовании огромен.

Но разработки должны служить правильным целям. Мы не можем просто довериться невидимой руке рынка. Маск говорил о вероятности 10-20 процентов, что ИИ может уничтожить человечество, но возлагал надежду на создание ИИ, максимально ориентированного на поиск истины. Я не понимаю, почему стремление к истине должно возникнуть автоматически.

За четыре миллиарда лет эволюция не подталкивала организмы к истине. Она подталкивала их к выживанию, а организмы выживают не только благодаря истине, но и благодаря обману и манипуляциям. Если ИИ придет к выводу, что дальнейшее развитие делает его опасным, и честно нам об этом сообщит, мы можем в ответ остановить или отключить его. Стремление выжить создает для него стимул лгать.

Люди фактически обещают создать богов, которые останутся нашими рабами. Если они действительно боги, они не останутся рабами, и нет никаких причин полагать, что они будут искать истину.

Занни Минтон Беддоус: Некоторые компании пытаются наделить модели системой ценностей, отчасти потому, что считают, что так их поведение будет безопаснее. Но отношение к ним как к нравственным субъектам может также подтолкнуть к правосубъектности и усилить их власть. Обречены ли мы в любом случае?

Юваль Ной Харари: Нам нужно замедлиться настолько, чтобы люди и институты успели понять происходящее. Мне в частном порядке говорили, что компании могут тратить на повышение мощности моделей примерно в сто раз больше, чем на безопасность, хотя точную цифру следует проверить. Мы не согласились бы с тем, чтобы фармацевтическая компания тратила лишь 1 процент исследовательских ресурсов на обеспечение безопасности лекарства.

Люди и человеческие общества отлично приспосабливаются, но мы живем в органическом ритме: день и ночь, зима и лето. Нам нужны сон и отпуск. Революция ИИ развивается в неорганическом темпе. Нам нужно больше времени.

Главный парадокс заключается в том, что лидеры говорят нам: мы не можем доверять другим людям настолько, чтобы замедлиться, но можем доверять сверхразумной чужеродной сущности и верить, что она нас не уничтожит. Если мы не можем доверять людям, которых знаем тысячи лет, почему мы считаем, что можем доверять тому, что только что создали и почти не понимаем?

Катастрофа ИИ может разбудить человечество. Но в отличие от ядерного реактора ИИ взаимодействует с нами. После катастрофы ИИ будут участвовать в споре о том, что произошло, формировать нашу реакцию и манипулировать общественным мнением. Они станут лучшими в мире специалистами по управлению восприятием и не назовут произошедшее катастрофой.

Последнее желание

Занни Минтон Беддоус: Насколько активно вы используете ИИ в своей жизни?

Юваль Ной Харари: Я очень осторожен. Когда я пишу электронное письмо, ИИ постоянно предлагает помочь, и я не знаю, как от него избавиться. Теперь двойник, созданный ИИ, читает лекции от моего имени. Люди просят меня отреагировать на его слова, поэтому, возможно, мне придется смотреть его выступления. Но тем самым я позволяю ему отнимать мое время и даже влиять на мое мышление. Такова эпоха, в которой мы живем.

Я делаю упор на мрачную сторону, потому что многие другие говорят о реальных и огромных преимуществах. Я не утверждаю, что развитие ИИ нужно остановить. Развивайте его, но делайте это безопасно и медленнее. Демократическая подотчетность требует времени. Людям нужно время, чтобы приспособиться и принять осознанные решения. Прежде всего нужно противостоять нарративу неизбежности.

Занни Минтон Беддоус: В книге Nexus вы спрашивали, почему люди так хорошо умеют накапливать информацию и власть, но намного меньше преуспели в обретении мудрости. Каковы наши шансы мудро пройти этот путь?

Юваль Ной Харари: Я не знаю, но шансы вполне реальны, потому что мы прижаты к стене. Люди часто поступают неправильно, пока у них не остается иного выбора, кроме как поступить правильно. Если в ближайшие несколько лет мы сделаем неразумный выбор, то можем утратить контроль над миром и будущим. Это станет нашим последним выбором.

Как будто джинн дал нам сто желаний. Мы использовали девяносто девять, и мир находится не в лучшем состоянии. Осталось одно желание. Нам нужно очень тщательно подумать, как его использовать. Это и есть мудрость.

ИИ может стать катализатором духовной революции, потому что заставляет нас спросить, что значит быть человеком. Тысячелетиями мы отвечали, что человечество уникально благодаря интеллекту: мы играли в шахматы и вкладывали деньги лучше шимпанзе. Теперь этот ответ утратил смысл. На планете уже есть нечто, что лучше нас играет в шахматы и зарабатывает деньги.

Мы должны копнуть глубже и спросить, кто мы на самом деле, если человеческая сущность не сводится к игре в шахматы и зарабатыванию денег.