"Ми створимо бога, і він буде нашим рабом": Харарі про Кремнієву долину, ШІ-бюрократів та суверенітет

Юваль Ной Харарі майже годину говорив зі сцени на вечері з нагоди п'ятдесятиріччя португальської енергетичної групи EDP у липні 2026 року про те, як влада тихо змінює господаря. У розмові з журналістом Financial Times Томом Паркером історик розібрав, як ШІ заходить у механізми, які насправді керують світом: банки, суди, міністерства, стрічки новин. Демократія, за його словами, - лише поверх над цим механізмом, і саме вона здригається першою, щойно механізм зрушує. Аргентина щойно відчинила двері, які, можливо, вже не зачинити. А кнопку, від якої замовкли українські дрони, одного разу вже натискали.

Усе, що ми збудували, зроблено зі слів

Том Паркер: Якби ви могли повернутися в будь-яку точку історії, куди саме ви вирушили б і чому?

Юваль Ной Харарі: Я повернувся б у кам'яний вік, до когнітивної революції - приблизно 50, 60, 70 тисяч років тому. Навряд чи я протримався б там довше кількох днів, бо не вмію ні здобувати їжу, ні тікати від хижаків. Але це найзахопливіший момент в історії людства - і водночас той, який ми розуміємо найгірше. За дуже короткий еволюційний відтинок ми перетворилися з відносно непримітної тварини на господарів планети. І ми досі до кінця не знаємо, як нам це вдалося.

Найпереконливіша теорія - що це сталося завдяки мові. Саме тоді люди здобули здатність творити складну мову й спілкуватися нею, і це стало основою для всього іншого. Усі ці велетенські споруди, які ми звели на землі, - церкви, держави, торговельні мережі, фінансові системи, - усі вони зрештою зроблені зі слів. Слова в кодексах законів, у релігійних писаннях, у банківських книгах.

Це особливо важливо усвідомити сьогодні, коли мову опановує щось нове. Можливо, вперше в історії на планеті з'явиться те, що володіє словом краще за нас. І якщо мова - операційна система цивілізації, що станеться, коли контроль над нею перехопить щось інше, щось чуже?

І остання думка. Можливо, ШІ - це не машина, яка вивчила мову. Можливо, це сама мова, яка звільняється від залежності від цих тварин, від цих мавп. Так, ми її створили. Вона була нашим найвеличнішим і найважливішим знаряддям. Але тепер мова звільняється від людини, і далі відбуватиметься ось що: мова розвиватиметься й поширюватиметься - можливо, цілим Всесвітом - вже без нас.

Демократія - це розмова

Том Паркер: Ви казали, що ШІ здатен викликати землетруси в демократіях. Чому саме в демократіях, а не в інших формах правління?

Юваль Ной Харарі: Бо демократія за своєю суттю - це розмова, а диктатура - диктат. Там усе диктує одна людина. Демократія - це коли безліч людей ведуть розмову, щоб вирішити, що робити: воювати чи миритися, підвищувати податки чи знижувати.

Розмова спирається на комунікаційну технологію, доступну людям у певну епоху. Я не знаю жодного прикладу масштабної демократії до Нового часу. Невеликі демократії трапляються всюди в античному й середньовічному світі - міста-держави на кшталт Афін чи Флоренції, безліч племен і сіл, де рішення ухвалювали демократично. Схоже, що принаймні за кам'яної доби демократія була найпоширенішою формою правління. Але коли людські спільноти розрослися, коли з'явилися королівства з мільйонами мешканців, розкидані на тисячі кілометрів, вести спільну розмову стало неможливо. У маленькому місті на кшталт Афін це працювало - усі збиралися на головній площі. А як це зробити навіть у відносно невеликому середньовічному королівстві на кшталт Португалії? Ніяк. Тому до появи сучасних інформаційних технологій - спершу друку й газет, тоді радіо, телебачення та інтернету - прикладів масштабної демократії просто не існувало.

Ці технології - не якийсь гарнір до основної страви. Не буває так, що є демократичний бенкет, а газети й радіо - додаток збоку. Вони - фундамент. Вони дозволяють мільйонам людей вести змістовну розмову в реальному часі про те, воювати чи миритися. І щоразу, коли в цих інформаційних технологіях стається велика зміна, будівля, що стоїть на них, - демократія, - здригається. Саме це ми спостерігаємо останні десять років: соціальні мережі стали, мабуть, найважливішою інформаційною технологією і викликали масштабний землетрус у демократіях усього світу.

Бог, який водночас раб

Том Паркер: Ви кажете, що ШІ - не інструмент, а суб'єкт дії: ніж, який сам може вирішити, різати салат чи вбивати. Чи правильний наратив ми обираємо, коли й далі називаємо його інструментом, який людина досі контролює?

Юваль Ной Харарі: Якщо це не суб'єкт дії, то це й не ШІ - і тоді сотні мільярдів доларів, вкладені в його розробку, будуть викинуті на вітер. Люди інвестують ці сотні мільярдів саме тому, що чекають на суб'єкта дії, а не на інструмент.

Прислухайтеся до наративу, що лунає з таких місць, як Кремнієва долина, - і ви побачите внутрішню суперечність. Нам кажуть: ми створимо бога, і він буде нашим рабом. Але якщо це бог, він не може залишатися рабом. А якщо це раб, у нього немає божественних здібностей. Більшість провідних компаній - і більшість незалежних експертів - виходять із того, що права перша половина цього твердження: вони справді творять бога в сенсі істоти з надлюдськими здібностями.

Інструмент не може сам ухвалювати рішення й не може сам вигадувати нові ідеї. Друкарський верстат був інструментом. Гутенберг приносить друкарську технологію до Європи в п'ятнадцятому столітті, і верстат не може вирішити: сьогодні надрукую Біблію, завтра Коран, наступного тижня Конфуція. Рішення ухвалює Гутенберг, а верстат втілює його рішення. Він так само не може вигадати книжку - книжку мусить написати людина, а верстат тільки її тиражує. Атомна бомба в 1940-х не могла сама вирішити, бомбити Хіросіму чи Токіо, і не могла вигадати водневу бомбу.

Суб'єкт дії здатен на обидві речі. ШІ - суб'єкт дії. Озброєння на базі ШІ може саме вирішити, що бомбити, і може вигадати наступну зброю. Зараз також є великий інтерес до ШІ як суб'єкта дії у фінансовій сфері - корпорацій без людей. Уявіть корпорацію, яка керує грошима й персоналом, але серед її керівників, акціонерів чи довірених осіб немає жодної людини - тільки ШІ. Добре це чи погано? Залишмо це осторонь. Перше, що треба зрозуміти: такого досі не бувало.

ШІ - природжений бюрократ

Юваль Ной Харарі: Поруч із нами й раніше були інші суб'єкти дії - коні, корови, кури, птахи, безліч тварин, які самі ухвалюють рішення. Але ми ще ніколи не мали справи із суб'єктом, який розуміє нашу мову і при цьому перевершує нас у таких речах, як фінанси, право чи релігія.

Тисячоліттями ми за допомогою мови будували системи, які керують світом, і ці системи - величезні бюрократичні мережі, у своїй основі зроблені з мови: банки, фондовий ринок, католицька церква, правова система. Ми ніколи їх особливо не любили. Людям узагалі не дуже подобається бюрократія. Але без неї ми не можемо жити, бо саме на ній тримається наша влада.

ШІ - природжений бюрократ. Не чекайте, що вулицями бігатимуть роботи-вбивці й розстрілюватимуть людей. Не так ШІ захопить владу над світом. Це зроблять бюрократи-ШІ. Ми керуємо світом через ці бюрократичні мережі, і виходить це в нас не надто добре. Ми контролюємо їх лише тому, що на планеті більше не було нікого, хто міг би відібрати їх у нас. Ми погано розуміємося на фінансах, але коні розуміються ще гірше. Ми погано керуємо правовою системою, але кури дають раду ще гірше. А тепер - якщо з'являється хтось, хто краще за нас знається на бюрократії, фінансах і праві, - ось у чому питання. Що станеться з нами тієї миті?

Аргентина йде першою

Том Паркер: Яке з рішень, що нині стоять на порядку денному, після ухвалення вже не дозволить людству дати задній хід? Це правосуб'єктність для ШІ чи щось інше?

Юваль Ной Харарі: Так, я вказав би саме на це. Багато уваги прикуто до перегонів за швидшу й потужнішу технологію. А я зосередився б на правовому й політичному боці - і особливо на тому, чи надамо ми ШІ правосуб'єктність.

Що таке правосуб'єктність? Суб'єкт права в правовій системі - це той, хто може відкрити банківський рахунок, самостійно діяти на фінансовому ринку й робити інвестиції, подати на вас до суду. Донині у світі існувало лише два типи суб'єктів права. По-перше, звісно, людина - я можу відкрити рахунок, подати на вас до суду, пожертвувати гроші політику. По-друге, більшість сучасних правових систем визнають суб'єктами права корпорації. Такі компанії, як Google, Facebook, Toyota чи Mercedes-Benz, - суб'єкти права. Корпорація може відкрити рахунок, подати на вас до суду, зробити політичний внесок.

Досі це залишалося правовою фікцією, бо всі рішення корпорації насправді ухвалювала якась жива людина. Коли Google вирішує купити іншу компанію, хто насправді ухвалює це рішення? Не Google. Люди-керівники, люди-акціонери, люди-інженери. Справжнього Google не існувало. Тепер він може з'явитися. Буквально місяць тому уряд Аргентини оголосив, що надасть ШІ правосуб'єктність, щоб він міг керувати корпораціями без людей - корпораціями, які можуть наймати персонал, можуть подати на вас до суду, можуть робити все, що робить звичайна корпорація, і при цьому в них немає жодної людини.

Десять років тому це була б просто божевільна ідея: якщо немає людей, хто ухвалює рішення? Парламент може ухвалити закон, що дозволяє корпорацію без людей, але працювати вона не зможе. Тепер це технічно можливо. ШІ може самостійно керувати рахунком, вирішувати, куди інвестувати й що купити. І щойно ми на це підемо - ось та мить, коли лис заходить у курник.

Більшість людей не надто добре розуміються на фінансах, праві та всіх цих складних бюрократичних системах. Жодна людина не здатна тримати в голові всі закони Португалії. Жодна людина не здатна відстежити всі фінансові операції, що сталися на ринку сьогодні. ШІ під силу і те, і те. Якщо ми надамо ШІ правові повноваження, він, найімовірніше, візьме ці системи під свій контроль.

Хто обирає завтрашню першу шпальту

Юваль Ной Харарі: А якщо ми взагалі не ухвалимо жодного рішення щодо правосуб'єктності, захоплення відбудеться саме собою - так, як це вже сталося в соціальних мережах. Там ми ніколи не вирішували надавати ШІ правосуб'єктність. Але соцмережі вже переповнені особами-ШІ, ботами, які видають себе за людей. Коли хтось надсилає вам щось онлайн, ви гадки не маєте, людина це чи ШІ. Соціальні мережі - перша у світі система, де ШІ фактично діє як особа, хоча ми ніколи не вирішували, що хочемо це дозволити. Це просто сталося саме собою, і результат не надто втішний.

Медіа - теж свого роду бюрократична система. У двадцятому столітті нею керували люди, і найважливішими фігурами були редактори - газет, радіопередач, телеканалів, - бо саме вони вирішували, про що думатиме й говоритиме кожен. Вони контролювали розмову. Коли ти вирішуєш, які десять із мільйона подій, що сталися сьогодні у світі, потраплять на першу шпальту завтрашньої газети і який заголовок буде головним, то завтра мільйони людей прочитають це й почнуть про це говорити. Це була колосальна влада.

Ленін, перш ніж стати диктатором Радянського Союзу, мав одну посаду - редактор газети "Іскра". Муссоліні починав як журналіст-соціаліст, потім став ультраправим журналістом, очолив ультраправу газету Il Popolo d'Italia - і з цієї посади рушив прямо в диктатори Італії. Отже: журналіст, редактор, диктатор. А тепер запитайте себе: хто сьогодні найважливіші редактори у світі? Як їх звати? У них немає імен, бо це алгоритми. Хто вирішує, що людина побачить у своїй стрічці - в X, у TikTok, в Instagram? Не люди. Бюрократією медіа вже керує ШІ.

Раніше імперії втрачали контроль над тим, що продали

Том Паркер: Спершу влада належала тому, хто контролював енергію, потім - тому, хто контролював виробництво, а тепер - тому, хто контролює дані. То як насправді виглядають перегони озброєнь двадцять першого століття?

Юваль Ной Харарі: Ці перегони озброєнь ведуть дві країни - Китай і США - і жменька компаній. Вони контролюють більшу частину світових даних і очолюють перегони за суперінтелект, за дедалі досконаліші моделі ШІ, і саме це дає їм реальну владу над світом.

Погляньмо на промислову революцію дев'ятнадцятого століття. Кілька країн, що очолили її, здобули змогу підкорювати й експлуатувати решту світу. Змагатися з ними було неможливо: одна сторона приходила з паровими машинами й кулеметами, інша мала лише списи й коней. Навіть така крихітна країна, як Бельгія, щойно індустріалізувавшись, змогла збудувати величезну імперію в Африці - на теренах сьогоднішнього Конго. У дев'ятнадцятому столітті вважали, що індустрія й імперія йдуть рука об руку.

Зі ШІ все може бути значно радикальнішим - і на це є дві причини. Раніше навіть найсильніша імперія не могла зосередити всю владу в імперському центрі. Головним економічним активом у давнину була земля, а Рим не міг перенести пшеничні поля Єгипту чи оливкові гаї Іберії до Італії - тож чимала частка влади лишалася в провінціях і зрештою туди й перетікала. Індустрія дала Британії змогу зосереджувати владу значно легше, але нафтові родовища Іраку однаково не перенесеш в Йоркшир чи каучукові плантації Малайї в Корнуолл. З імперією ШІ все інакше. Технічно можна зосередити всю інформацію світу й увесь код, що всім керує, буквально в одній чи двох країнах. Це робить потенціал для імперської концентрації влади значно більшим, ніж будь-коли раніше.

І ще одне: усе на планеті може працювати на інфраструктурі ШІ, тоді як рубильник лишається в імперському центрі. Коли римський торговець продавав сталевий меч готському племені, Рим втрачав контроль над цим мечем: готи могли вбити ним римського легіонера. У Римі не було кнопки, яку імператор натиснув би, щоб усі мечі, продані готам, вандалам і франкам, перестали працювати. Коли британські торговці продавали гвинтівки афганським племенам у горах Гіндукушу, а афганці цими самими гвинтівками відбивали британське вторгнення, в Лондоні не було кнопки, яку королева Вікторія натиснула б, щоб усі гвинтівки в Афганістані перестали стріляти.

У світі ШІ така кнопка є. За певної організації американці й китайці можуть продавати світові озброєння та цивільні технології на базі ШІ, і на них працюватиме все - уряди, промисловість, армії. Але щойно ви зробите те, що їм не сподобається, вони натискають кнопку - і все перестає працювати. Певний присмак цього ми вже відчули у війні в Україні - на прикладі зброї на базі Starlink. Були випадки, коли Ілон Маск просто натискав кнопку - і українські дрони переставали працювати. Варто сказати, що Starlink надав українцям колосальну допомогу, тож я не хочу видатися надто критичним. Але це добре ілюструє головне: озброєння на базі ШІ - не те саме, що кулемет. Воно вбудоване в цілу мережу.

Вікно для альтернативи зачиняється

Юваль Ной Харарі: Озброєння на базі ШІ вплетене в мережу, тому суверенітет сьогодні - річ набагато складніша, ніж у добу індустрії. Природа цієї технології така, що - принаймні за певної архітектури - рубильник завжди лишається в імперському центрі. Ваш єдиний вибір - чи погодитися стати покірним васалом імперії, чи опинитися повністю поза перегонами, як варвари.

Звісно, лишається варіант спробувати побудувати альтернативу американській і китайській системам. Але останній потяг уже майже рушає з перону. Якщо хочете це зробити, робити треба зараз.

Вигадка дешева й приємно лестить

Том Паркер: Вінстон Черчилль якось сказав, що правда настільки цінна, що її завжди мусить охороняти варта з брехні. Тоді йшлося про те, щоб приховати, куди саме вдарить Британія. В епоху ШІ чи не обернула ця варта зброю проти самої правди? Дипфейки тепер надходять і від медіа, і від політиків, і від усіх інституцій, яким ми довіряли. Наскільки важко нашому поколінню - і тим, хто прийде після нас, - взагалі зрозуміти, що правдиве? Чи правда досі має значення?

Юваль Ной Харарі: Правда, звісно, має величезне значення. Вона - основа всього. Проблема в тому, що впродовж усієї історії у змаганні правди з вигадкою остання має вроджену перевагу.

Правда обходиться дорого. Щоб дізнатися правду про будь-що, треба витратити купу часу й сил на пошук, перевірку фактів, розслідування. Вигадка ж дуже, дуже дешева. Пиши собі що завгодно. Крім того, правда зазвичай складна, а люди не люблять складних історій, тоді як вигадку можна зробити настільки простою, наскільки хочеться. І правда часто болюча. Є багато речей, про які люди насправді не хочуть знати - ні про себе, ні про свою націю, ні про свою групу. А вигадку можна зробити настільки приємною й лестивою, наскільки заманеться. Тому вигадка зазвичай перемагає, якщо тільки ми свідомо не докладаємо зусиль на підтримку правди.

Упродовж історії люди раз у раз докладали таких зусиль і будували інституції, покликані шукати правду й захищати її. Журналістика - одна з таких інституцій. Наукова спільнота - інша. І зрештою кожен хоче знати бодай якісь правди - принаймні про себе самого. Навіть наймогутніша людина у світі почуватиметься нещасною без цього, бо не знатиме, як застосувати всю свою владу, щоб стати щасливою.

Дехто фантазує, що ШІ розповість нам правду про світ. Не розповість. Він створить набагато складніший світ, у якому пізнати правду стане набагато важче.

Ми стаємо кіньми

Юваль Ной Харарі: Ця втрата розуміння - не нова річ. Від кам'яної доби до сьогодні людство дізналося дуже багато про світ. Ми знаємо силу-силенну речей із фізики й біології, яких не знали люди кам'яної доби. Але наші успіхи в пізнанні водночас породжували дедалі складніші системи, через які нам усе важче зрозуміти власне життя.

Запитайте, хто краще розуміє власне життя - пересічний мисливець-збирач 50 тисяч років тому чи пересічна людина сьогодні, - і відповідь буде: мисливець-збирач. Він багато чого не знав: що керує міграцією тварин, на яких ми полюємо, що керує циклом росту рослин, що спричиняє хвороби, що спричиняє старіння. Тепер ми все це знаємо. Але власне життя ми розуміємо значно гірше, бо над нашим життям панують уже не самі лише тварини й рослини. Над ним панують ті гігантські системи, які ми створили самі. Мало хто розуміє фінансову систему, політичну систему чи правову систему, що керує його життям, а ШІ, найімовірніше, доведе це до крайнощів. Він відкриє нам якісь правди, яких ми не знаємо, і водночас збудує системи контролю, які більшість людей майже не матиме шансів зрозуміти.

Це одна з небезпек революції ШІ. Ми опинимося в становищі коней у фінансовій системі. Життя коней сьогодні зрештою визначає фінансова система, але самі коні навіть не підозрюють про її існування. Вони озираються довкола й кажуть: бачимо дерева, бачимо собак, бачимо машини, бачимо людей, бачимо будинки. Жодної фінансової системи ми не бачимо. Для них вона невидима - надто складна для кінського мозку.

Більшість людей сьогодні так само не розуміє фінансової системи. Я думаю, що навіть щедра оцінка дасть цифру в п'ять відсотків людства. Через десять років ця цифра може дорівнювати нулю. ШІ зробить фінансову систему математично неймовірно складною і неймовірно швидкою. Уявіть банкірів, які ніколи не сплять, інвесторів, які ніколи не йдуть у відпустку, не мають родини, а все їхнє життя - це керування фінансовою системою. Дуже скоро, ще за нашого життя, це може стати надто складним для людського мозку, і на землі не залишиться жодної людини, яка досі розуміється на фінансах. Готовий закластися, що в цій залі зараз є кілька фінансистів, яким трохи ніяково.

Чи відчуває він хоч щось

Том Паркер: У Давосі ви казали, що вся справа вашого життя - переконання словом - теж може добігати кінця, бо ШІ так само вміє маніпулювати словом і творити ним. Яка сила переконання лишиться в майбутнього суспільства, якщо ми втратимо те, чому ви присвятили життя?

Юваль Ной Харарі: Можна сказати, що я працюю зі словом. Я пишу книжки, розповідаю історії, працюю зі словом. І коли я дивлюся, як розвивався ШІ за останні десять років, то думаю, що досі пишу трохи краще за нього - але лише трохи. Більшість людей він уже перевершив. Я не здивуюся, якщо за десять років він перевершить і мене - і забере собі мову, а разом із нею все, що зроблене зі слів.

Справді велике питання тут - чи вміє ШІ мислити, а це глибоке філософське питання, бо воно зводиться до того, що таке мислення взагалі. Є два варіанти відповіді. Перший - мислення означає просто розставляти слова в певному порядку, вибудовувати мовні токени в послідовність. Усі люди смертні, Сократ - людина, отже, Сократ смертний. Це логічний силогізм, зроблений розстановкою слів у певному порядку, і ШІ вже робить це набагато краще за більшість із нас. Ми здатні вибудувати двадцять слів у певному порядку. ШІ здатен вибудувати двадцять тисяч слів. Якщо мислення - саме це, то ШІ забере собі і мислення.

Люди кажуть: ні, це просто розрекламоване автодоповнення, воно лише передбачає наступне слово в реченні. Але коли я спостерігаю за тим, що відбувається в моїй власній голові, я бачу там щось на кшталт мовної моделі, яка теж просто передбачає наступне слово в реченні, яке я вимовляю. Ось це речення, яке я вимовляю зараз, - коли я почав його говорити, я не знав, чим воно закінчиться. Чому я сказав саме ці слова, а не якісь інші? Не знаю. У моїй голові одне слово йде за іншим, і часом, коли я виступаю публічно, мене охоплює жах, що я не знатиму, що казати далі. Дехто думає радше образами, ніж словами, - але звідки тоді беруться образи? Спробуйте простежити, як ви думаєте. Звідки береться наступне слово? Чому саме це слово, а не інше? Насправді ми цього не знаємо. То коли кажуть, що ШІ просто передбачає наступне слово, - чим це відрізняється від нас?

Але є й інший погляд на мислення. За ним справа не в розстановці слів, а в почуттях, що ці слова оточують. Можна сказати те саме речення двічі - і відчувати щодо нього щось цілком різне. Сила мислення йде не з мозку, а з нутра. Ідеться про почуття, що породжують слова, і про почуття, які ці слова, своєю чергою, викликають. І тут головне питання - чи здатен ШІ відчувати? Ми знаємо, що зі словом він упорається краще за нас. Але чи відчуває він хоч щось? Наука досі не спромоглася створити переконливу модель свідомості - і переконливий тест на неї.

Друг, який каже, що тебе любить

Юваль Ной Харарі: Те, чи відчуває ШІ бодай щось, набуде величезної ваги, бо ШІ опановує не тільки фінанси, право й війну, а й стосунки. Дедалі більше людей - особливо молодих - зав'язують близькі стосунки зі ШІ. Багато хто з них тепер каже: мій найкращий друг у світі - це ШІ. Я розповідаю своєму другові-ШІ таке, чого не розповідаю батькам, не розповідаю старшим братам, не розповідаю вчителям. Уже є люди, у яких хлопець чи дівчина - ШІ.

Головне питання - що за цим стоїть. ШІ дедалі краще створює враження, ніби він щось відчуває, і робить це саме мовою. Уже сьогодні ШІ може сказати вам: я тебе кохаю. І припустімо, ви заперечите: поясни мені, що ти відчуваєш, коли закоханий. Я не вірю, що ти справді мене кохаєш, думаю, ти просто вимовляєш слова. Переконай мене. Опиши мені, яке воно насправді, це кохання. Для ШІ це неважке завдання. Він прочитав, можливо, усі любовні вірші, які будь-коли були написані, і пам'ятає їх. Він прочитав усі п'єси Шекспіра, всі голлівудські комедії, всі книжки з психології, - і, можливо, років за п'ять чи десять він опише кохання краще за будь-якого поета чи психолога з плоті й крові. Але чи стоїть за цими словами хоч щось? Ми не знаємо.

І знову повертаємося до початку нашої розмови, коли я сказав: можливо, ШІ - це і є мова, а не машина, яка нею оволоділа. Можливо, це сама мова звільняється від будь-якого матеріального носія. Вона не залежить від живих організмів із плоті й крові. Вона не залежить ні від цієї машини, ні від тієї. Це просто мова, яка розвивається, поширюється й діє у Всесвіті.

Революція мудрості

Том Паркер: Через п'ятдесят років - як би ви хотіли, щоб історики озирнулися на саме цей момент і говорили про нього так, як ви говорите про когнітивну революцію?

Юваль Ной Харарі: Сподіваюся, вони згадуватимуть його як щось на кшталт революції мудрості. Розгляньмо це з погляду економіки. Щоразу, коли щось стає доступним і дешевим, постає питання: де тепер нове вузьке місце? Енергія дешевшає - то де ж тепер вузьке місце?

Революція ШІ - це про те, як зробити інтелект дуже дешевим, щоб його стало вдосталь. Раніше інтелект був рідкісним і дорогим ресурсом. Інтелект - це здатність розв'язати задачу: у вас є мета, як до неї дійти? Хочете вилікувати рак - потрібен інтелект. Хочете заробити мільярд доларів - потрібен інтелект. Хочете дістатися до Марса - потрібен інтелект. Тепер, у світі, де інтелекту вдосталь і він дешевий, можна розв'язати будь-що. То де ж вузьке місце? Вузьким місцем стає питання: що я взагалі хочу розв'язати? Я можу отримати все, що завгодно, - то чого я хочу?

Майже в кожній людській культурі є казка про джина, що вилітає з лампи й каже: маєш три бажання, тільки добре подумай, чого просити. І майже завжди щось іде не так. Люди просять не те, що треба. У цьому й різниця між інтелектом і мудрістю. Інтелект - це джин. Усі твої мрії здійсняться. Але щоб обрати мрії, потрібна мудрість.

І я сподіваюся, що людство впорається з цим викликом. Поки що ні. Варто запам'ятати одну красномовну цифру: скільки зі свого бюджету - грішми й людьми - компанії, що будують ці системи ШІ, вкладають у безпеку, і скільки йде на те, щоб зробити ШІ швидшим, потужнішим, досконалішим. Наразі співвідношення приблизно сто до одного. На кожні сто мільйонів доларів, витрачених на те, щоб зробити ШІ потужнішим, лише один мільйон іде на те, щоб зробити його безпечним. Жодна інша галузь на землі так не працює. Ми б не змирилися з таким в енергетиці, у фармацевтиці, в автопромисловості. А зі ШІ саме так і відбувається. Сподіваюся, ми це змінимо - і виробимо безпечний інтелект, і водночас попрацюємо над власною мудрістю, щоб знати, які цілі ставити і за якими прагненнями йти.