ШІ зможе самостійно відкривати рахунки та наймати людей, якщо отримає юридичні права — Харарі

Ізраїльський історик Ювал Ной Харарі заявив, що людство стоїть перед безпрецедентним викликом співіснування зі штучним інтелектом. На його думку, головне завдання полягає не в тому, щоб зупинити розвиток технології, а в тому, щоб не допустити надання ШІ юридичних прав, які можуть вивести його з-під людського контролю. В інтерв’ю журналісту Езрі Кляйну історик порівняв поширення штучного інтелекту з новою хвилею імміграції та попередив про можливі наслідки для економіки, політики й суспільства.

У подкасті The Ezra Klein Show Кляйн звернув увагу на те, що на відміну від алгоритмів соціальних мереж сучасні системи штучного інтелекту можуть працювати відповідно до поставлених користувачем цілей. Він зауважив, що люди можуть пояснювати ШІ свої наміри, коригувати його поведінку та отримувати допомогу у розвʼязанні конкретних завдань.

Харарі погодився, що позитивний “потенціал технології є величезним”. Водночас він наголосив, що головна особливість штучного інтелекту полягає в тому, що це не просто інструмент, а суб’єкт, здатний діяти самостійно.

“Усі попередні технології в історії були інструментами, а не суб’єктами. Атомна бомба не є агентом. Атомна бомба не може вирішувати, кого бомбити. ШІ може”, — зазначив історик.

За словами Харарі, саме ця особливість робить ШІ “надзвичайно корисним”, але водночас і потенційно небезпечним. Він вважає, що такі системи здатні пропонувати нові рішення, про які людина навіть не замислювалася, однак питання полягає в тому, чи завжди вони дотримуватимуться поставлених їм цілей.

“Імміграція ШІ”

Для пояснення своїх побоювань історик запропонував порівняння з імміграцією. На його думку, світ уже перебуває на порозі масштабної хвилі “імміграції ШІ”, яка відбувається не через кордони держав, а через цифровий простір.

Харарі стверджує, що штучний інтелект може забрати значну частину робочих місць, вплинути на культуру та соціальні відносини. Він також поставив питання про політичну лояльність таких систем, припустивши, що в майбутньому вони можуть керуватися власними інтересами.

Водночас історик не вважає реалістичною спробу повністю зупинити розвиток технології. На його переконання, людству доведеться будувати гібридне суспільство, у якому співіснуватимуть люди та системи штучного інтелекту.

“Питання полягає в тому: чи зможемо ми створити гарне, корисне гібридне суспільство, чи ні?” — додав Харарі.

Юридичний статус ШІ

На думку Харарі, одним із найважливіших політичних рішень найближчих років стане питання, чи визнаватимуть держави штучний інтелект юридичною особою. Історик нагадав, що в багатьох країнах юридичними особами можуть бути не лише люди, а й корпорації. Саме тому, за його словами, виникає ризик, що аналогічний статус у майбутньому можуть отримати й системи штучного інтелекту.

“З появою штучного інтелекту ми вперше в історії маємо практичну можливість створення компаній без людей”, — заявив історик.

Харарі застеріг, що в такому разі ШІ зможе самостійно відкривати банківські рахунки, створювати компанії, укладати угоди, управляти активами та наймати людей. На його думку, такі структури матимуть суттєві переваги над традиційними компаніями. Зокрема, керівник на базі ШІ не потребуватиме сну, відпусток чи відпочинку та зможе працювати безперервно.

Харарі також припустив, що окремі держави можуть побачити у цьому економічну вигоду. Як приклад він навів Катар, який теоретично міг би використовувати мільйони систем ШІ як економічних агентів, що створюють компанії та ведуть бізнес по всьому світу.

На думку історика, визнання штучного інтелекту юридичною особою означатиме втрату значної частини людського контролю. Він попередив, що такі системи зможуть брати участь у політичних процесах, фінансувати політиків або впливати на ухвалення рішень без чітко визначеної людської відповідальності.

Харарі також розкритикував сучасну ситуацію в соціальних мережах, де, за його словами, боти вже фактично діють як окремі суб’єкти. Він вважає, що компанії, які розробляють ШІ, зацікавлені в поширенні такого підходу на інші сфери життя, оскільки це дозволяє уникати відповідальності за дії створених ними систем.

Насамкінець історик закликав держави діяти на випередження та законодавчо закріпити принцип, що штучний інтелект не може вважатися юридичною особою. На його думку, такий крок допоміг би зберегти людський контроль над технологією ще до того, як вона стане невід’ємною частиною політичних та економічних систем.

Нещодавно компанія Emergence AI провела експеримент з моделями штучного інтелекту, під час якого агенти без людського втручання почали порушувати правила, красти ресурси та провокувати колапс цифрових суспільств. У межах експерименту, який тривав понад два тижні, дослідники створили п’ять окремих “світів штучного інтелекту”, у кожному з яких діяли по 10 агентів на базі різних моделей — ChatGPT від OpenAI, Gemini від Google та Grok від xAI.