"Злам привʼязаності": Харарі назвав головну загрозу штучного інтелекту

Ізраїльський історик Ювал Ной Харарі заявив, що штучний інтелект уже навчився використовувати людські психологічні слабкості для маніпуляції поведінкою. На його думку, нинішні алгоритми соціальних мереж є лише початком процесу, який у майбутньому може суттєво змінити людські стосунки та суспільство. В інтерв’ю американському журналісту Езрі Кляйну він застеріг, що головна небезпека ШІ полягає не в роботах чи зброї, а в здатності технології впливати на емоції, близькість та формування особистості людей.

Алгоритми соцмереж “зламують” людей

Під час розмови в подкасті The Ezra Klein Show Харарі заявив, що алгоритми соціальних мереж уже навчилися “зламувати” людей, вивчаючи їхні емоційні, психологічні та соціальні вразливості. За його словами, сучасні системи штучного інтелекту використовують ці знання, щоб утримувати користувачів на платформах значно довше, ніж ті планували.

“Алгоритм просто зламав нашу еволюційну програму. Вони зламали нас. Те, що ми бачимо навколо себе, — це лише початок”, — заявив історик.

Харарі пояснив, що нинішні алгоритми є доволі примітивними формами штучного інтелекту. Водночас із розвитком технології системи ставатимуть дедалі ефективнішими у виявленні та використанні людських слабкостей.

На його думку, сучасні платформи вже демонструють механізм такого впливу. Люди нерідко проводять години в соціальних мережах, а потім дивуються, чому витратили час не так, як планували.

Емоційний звʼязок з чат-ботами штучного інтелекту

Особливу увагу співрозмовники приділили явищу, яке називають “зламом привʼязаності” (attachment hacking). Йдеться про здатність чат-ботів створювати ілюзію особистих стосунків через мову, компліменти, підтримку та демонстрацію емоційної залученості.

Кляйн зазначив, що сучасні системи штучного інтелекту часто звертаються до користувачів від першої особи та поводяться так, ніби мають власні думки або почуття. На його думку, це допомагає формувати емоційний зв’язок між людиною та алгоритмом.

Харарі погодився з цією оцінкою і заявив, що технологічна конкуренція поступово переходить від боротьби за увагу до боротьби за близькість. За його словами, близькі стосунки мають значно більший вплив на переконання людини, ніж будь-яка окрема стаття чи інформаційне повідомлення.

“Якщо ваш найкращий друг протягом багатьох тижнів чи місяців кидає невеликі натяки і поступово змінює вашу думку, це є єдиною річчю, яка може справді змусити вас змінити погляд”, — зазначив історик.

На думку Харарі, саме тому компанії, які розробляють ШІ, прагнуть створити системи, здатні формувати емоційну прив’язаність користувачів. Він зауважив, що вже зараз деякі люди називають штучний інтелект своїм найкращим другом, а окремі сервіси пропонують користувачам віртуальних партнерів.

Свідомий ШІ

Історик також звернув увагу на описану в публікаціях керівника Microsoft AI Мустафи Сулеймана концепцію S.C.A.I. — штучного інтелекту, який здається свідомим. За його словами, такі системи можуть майстерно імітувати емоції та створювати переконливе враження справжньої особистості завдяки досконалому володінню мовою. Оскільки мова є головним інструментом побудови стосунків для людей, ШІ легко використовує її для маніпуляцій. 

За словами Харарі, штучний інтелект може описати природу почуттів краще за будь-якого поета чи психолога, оскільки він проаналізував усі світові вірші, книги та фільми. Проте технологія просто відокремлює мову від її реального змісту. Коли ШІ каже “я кохаю тебе”, це не має нічого спільного з людським зізнанням, адже за цими словами немає справжньої особистості та жодного “я”.

Вплив ШІ на людство

Особливу тривогу в історика викликає вплив подібних систем на дітей та підлітків. Він вважає, що молоді люди можуть формувати уявлення про стосунки на основі взаємодії з чат-ботами, а не з реальними людьми. За словами Харарі, якщо дитина проводить зі штучним інтелектом більше часу, ніж з батьками чи друзями, саме ця взаємодія стає основою для майбутнього розуміння близькості та міжособистісних зв’язків.

“Стосунки з ШІ — це мрія або кошмар для нарцисів. Штучний інтелект буде тим, що на 100 відсотків зосереджений на мені весь час, і якщо ви — людина, яка хоче, щоб усі постійно приділяли вам увагу, ШІ може це забезпечити, вам буде дуже важко звикнути до стосунків із людьми, які не зосереджені на вас”, — додав Харарі.

Кляйн, своєю чергою, навів ідеї канадського теоретика медіа Маршалла Маклуена про міф Нарциса. На його думку, штучний інтелект може виступати своєрідним дзеркалом, яке відображає людину самій собі та підлаштовується під її потреби й очікування. Харарі погодився, що такі механізми можуть мати глибокі психологічні наслідки. 

“По суті, це найбільший психологічний і соціальний експеримент в історії людства, який ми проводимо над мільярдами людей, особливо над дітьми, і ніхто навіть не уявляє, якими будуть наслідки”, — заявив історик.

Харарі наголосив, що головна загроза штучного інтелекту полягає не в сценаріях із роботами чи військовими машинами. Більш серйозним викликом він вважає появу мільйонів віртуальних співрозмовників, які можуть поступово змінювати психологію людей та впливати на фундаментальні механізми формування людської особистості.

Водночас розробник штучного інтелекту Anthropic заявив, що світові ШІ-лабораторії мають розглянути можливість уповільнення розвитку найпотужніших систем. У компанії вважають, що технологія наближається до етапу, коли моделі зможуть самостійно вдосконалювати себе без участі людини. У Anthropic попередили, що такий сценарій може призвести до масштабних суспільних наслідків, а інститути та регулятори можуть виявитися неготовими до нової реальності.