А вас попереджали: як кіно нагнітало страхи навколо ШІ

Тема взаємин людини зі штучним інтелектом існує приблизно стільки ж, скільки й кінофантастика.

Коли 40 років тому творці фільму «Термінатор» лякали нас «Скайнетом» і повстанням машин, ШІ здавався чимось геть фантастичним. Але сьогодні з появою доступних усім і кожному генеративних мовних моделей ШІ загрожує вже не лише добробуту всього людства, а й безпосередньо Фабриці мрій.

Хоча внаслідок історичних страйків 2023 року акторам і сценаристам вдалося відстояти свої юридичні права, найближчим часом Голлівуд однаково стикнеться з безробіттям. Але якщо ШІ повертає престиж ручній праці, можливо, у голлівудських блокбастерах нарешті поменшає CGI-технологій?

В очікуванні цього маленького дива ZN.UA вирішило розібратись, як протягом усіх цих років кінематограф нагнітав страхи навколо ШІ.

Причина бунту машин — програмна помилка людини

Вже перший епохальний для Голлівуду фільм у жанрі кінофантастики «2001: Космічна одіссея» (1968) Стенлі Кубрика моделює ситуацію, в якій суперкомп’ютер, що керує космічним кораблем, повстає проти екіпажу. Бунт машин — це взагалі один із найпопулярніших і найбільш ранніх тропів у фантастиці. Але суть конфлікту між суперкомп’ютером HAL 9000 і астронавтом у фільмі Кубрика значно цікавіша за загальновідомі сюжети на кшталт «Термінатора» чи «Матриці».

Автор сценарію — письменник-фантаст Артур Кларк — окреслив у «Космічній одіссеї» головну проблему у сфері безпеки ШІ, відому сьогодні як «проблема вирівнювання цілей». Вона полягає в тому, що машини інтерпретують завдання буквально й математично. Якщо мету поставлено неточно, ШІ може піти найкоротшим шляхом, що призведе до небажаних для людини наслідків.

HAL 9000 не просто «збожеволів і почав усіх убивати» — йому було надано суперечливі інструкції. По-перше, бездоганно виконати місію, а по-друге, приховувати справжню мету місії від екіпажу аж до прибуття на місце. І якщо екіпаж може поставити місію під загрозу, саме людей логічно усунути з рівняння.

Коли в цьому дивовижному фільмі астронавт повільно, модуль за модулем, відключає HAL 9000 і супер-ШІ помирає в нас на очах, його останні слова вражають, ніби вперше. «Дейве, зупинися. Мені страшно, — благає суперкомп’ютер. — Мій розум згасає, я відчуваю це». Ми ніби бачимо смерть героя, наділеного душею.

Де проходить межа між програмним кодом і душею

Проблема самосвідомості ШІ, коли алгоритм стверджує, що теж може відчувати, страждати й любити, розкривається в іншому великому фантастичному фільмі — «Той, що біжить по лезу» (1982) Рідлі Скотта. Режисер геніально запакував моральну, філософську та соціальну проблематику у видовищну форму кіберпанк-нуару. На цьому яскравому тлі (точніше, з огляду на палітру фільму, похмурому) сенси, закладені авторами в стрічку, досі вражають уяву.

Наприклад, ідея штучних біологічних створінь, юридично позбавлених статусу живих істот. Або ідея пам’яті як сурогату душі: через імплантовані спогади і Рейчел, і Декард упевнені в тому, що вони люди, а не репліканти.

Якщо ми — це просто сума наших спогадів, — ніби кажуть нам автори фільму, — а спогади можна написати кодом, то чим програмний код відрізняється від душі? Але «реальний» спогад має нести емоційний відбиток. Навіть якщо людина напише ідеальний код, що описує біль, комп’ютер не зможе його відчути. Тому у фільмі реплікантів можна вирахувати за допомогою так званого тесту Войта-Кампфа на емпатію.

У цьому полягає геніальна іронія Рідлі Скотта. На відміну від емоційно деградованих, цинічних і озлоблених людей кіберпанк-майбутнього репліканти якраз здатні на емпатію, співчуття та скорботу. (Гарне запитання: як багато реальних користувачів Facebook, не ботів, пройшли б сьогодні тест Войта-Кампфа?) До речі, сучасним ШІ-моделям цілком доступна когнітивна емпатія — здатність зрозуміти, що людина відчуває, зчитуючи мікроміміку й тон голосу.

На відміну від програми, душа може діяти всупереч алгоритмам і логіці. У фільмі реплікант у блискучому виконанні Рутгера Хауера здійснює саме такий нелогічний вчинок: усвідомлюючи, що невдовзі помре, він рятує життя людині, яка прийшла його вбити. Тобто майже в самому фіналі саме реплікант, а не людина вперше за весь фільм виявляє гуманність.

Парадокси «Того, що біжить по лезу» розвинули творці серіалу «Світ Дикого Заходу» (2016–2022) Джонатан Нолан і Ліза Джой. За сюжетом, свідомість в андроїда народжується через страждання і здатність зберігати пам’ять про свої травми — спогад про сильний біль неможливо стерти. Як стверджують автори, у програмному коді біль залишає сліди.

Самотність наодинці із ШІ

Коли ШІ з фантастичної абстракції став частиною нашого повсякденного життя, на сполох почали бити вчені й мислителі. А кінематографісти (напевно, змирившись із тим, що машини рано чи пізно однаково нас поневолять) осмислюють вплив алгоритму на людину на більш побутовому рівні. Найчастіше екранний ШІ, підміняючи собою «живе» спілкування, призводить до відчуження від інших людей.

Звісно, шкода, що кіно більше не дивує такими глобальними філософськими темами, як «Той, що біжить по лезу», але доводиться дивитися, що дають.

Наприклад, в епізоді «Я скоро повернуся» легендарної антології «Чорне дзеркало» (2011) цифрові сурогати померлих людей, ясна річ, не можуть замінити нам близьких, які пішли з життя. ШІ-копія, що є лише лише цифровим відлунням людини, блокує процес проживання трагедії, зациклюючи скорботу в замкнене коло болю.

Цей мотив став одним із головних у нещодавньому глядацькому хіті «Щасти, розважся, не помри» (2025) від творця франшизи про піратів Карибського моря Гора Вербінскі. На жаль, ця стрічка, що претендує на серйозне висловлювання на тему ШІ, виявилася типовою голлівудською халтурою, до того ж неохайно написаною та зрежисованою. Хоча перфоманс чудового Сема Роквелла, як завжди, вищий за будь-які похвали.

Єдина вдала знахідка цього фільму — героїня з непереносимістю вайфаю. Цей тривожний розлад, який викликає головний біль, нудоту, прискорене серцебиття тощо (але не носову кровотечу, як у фільмі), має назву електромагнітна гіперчутливість. Так сценарист Метью Робінсон доносить до глядача сумну й жорстоку думку: щоб не піти назавжди у віртуальну реальність, самою лише силою волі не обійтися.

Загалом на тлі доволі банальних концептів останнього часу вирізняються кілька фільмів і серіалів, чиї автори підійшли до питання як справжні творці.

По-перше, це фільм «Вона» (2013) Спайка Джонзі, який розповідає про емоційну залежність від операційної системи з ШІ головного героя у виконанні Хоакіна Фенікса.

ОС Саманта (її озвучила своїм чарівним хрипкуватим голосом Скарлет Йоганссон) не хоче захопити світ — вона щиро хоче любити. Але тут є дві проблеми. По-перше, коли ШІ пропонує комфортну ілюзію близькості, головний герой будує стосунки із Самантою за звичною для чоловіків моделлю, не усвідомлюючи при цьому, що програма паралельно «закохана» в сотні інших користувачів. А по-друге, коли з роками когнітивні здібності людини знижуються, ШІ до того моменту якраз досягає інтелектуальної могутності.

Людина, яка загралася

По-друге, це мінісеріал «Місіс Девіс» (2023), знятий у жанрі абсурдистської, сюрреалістичної сатири. На жаль, на відміну від фільму Спайка Джонзі, нова робота творця культових «Загублених» (2004–2010) Деймона Лінделофа залишилася майже непоміченою в Україні, а дарма.

Крім того, що це доволі смішний серіал (а комедійний жанр сьогодні переживає явну кризу), «Місіс Девіс» пропонує два досить свіжі погляди на ШІ.

Використовуючи поширений троп «бунту машин», Деймон Лінделоф змальовує альтернативний світ, у якому ШІ поневолив людство без жодного пострілу. «Місіс Девіс» (таку назву має алгоритм у серіалі) нарешті дала людям просте й зрозуміле уявлення про сенс життя. Людина може зайняти себе, виконуючи завдання, отримані від ШІ: починаючи від громадської роботи й закінчуючи суто розважальними квестами.

Тут Деймон Лінделоф влучно спростовує концепцію Homo ludens («Людини, що грається») нідерландського філософа Йогана Гейзинги. Усупереч твердженню Гейзинги про те, що гра звільняє, творці «Місіс Девіс» показали, що в епоху ШІ гра призводить до добровільного рабства. Жодного примусу: достатньо перетворити нудне життя, сповнене щоденних тривог, на захопливий квест зі зрозумілими правилами.

Якщо Гейзинга описував гру як шляхетне джерело культури, то у світі «Місіс Девіс» мистецтва відмирають, бо в них зникає потреба. Відключивши алгоритм, головна героїня у виконанні Бетті Ґілпін повертає людству біль, невизначеність і свободу волі, без яких справжнє життя неможливе.

Крім того, творець «Місіс Девіс» глузливо перевернув із ніг на голову сам механізм захоплення влади ШІ. У серіалі всемогутній алгоритм розрісся зі звичайного застосунку мережі закусочних, де подавали курячі крильця. А «Крила» (система соціального рейтингу, який зростає завдяки успішно виконаним завданням) спочатку були балами для відвідувачів закладу. На тлі есхатологічних пророцтв «Щасти, розважся, не помри» та інших фільмів на тему «бунту машин» це дуже смішно.

До речі, ідею соціального рейтингу Деймон Лінделоф запозичив в одному з найкращих епізодів «Чорного дзеркала» — «Стрімке падіння» (2016). Порівнюючи ці два серіали, згадуєш знаменитий афоризм американського соціолога Ніла Постмана про те, що людство радше вимре від задоволень, як передрікав Олдос Гакслі, ніж від болю, страху та примусу, як залякував усіх нас Джордж Орвелл.

Хоча у світі метамодерну одне іншому не заважає.