А вас предупреждали: как кино нагнетало страхи вокруг ИИ

Тема взаимоотношений человека с искусственным интеллектом существует примерно столько же, сколько и кинофантастика.

Когда сорок лет назад создатели фильма «Терминатор» пугали нас «Скайнетом» и восстанием машин, ИИ казался чем-то совершенно фантастическим. Но сегодня, с появлением доступных всем и каждому генеративных языковых моделей, ИИ угрожает уже не только благополучию всего человечества, но и непосредственно Фабрике грез.

Хотя в результате исторических забастовок в 2023 году актерам и сценаристам удалось отстоять свои юридические права, в ближайшее время Голливуд все равно столкнется с безработицей. Но если ИИ возвращает престиж ручному труду, может быть, в голливудских блокбастерах наконец-то станет поменьше CGI-технологий?

В ожидании этого маленького чуда ZN.UA решило разобраться, как все эти годы кинематограф нагнетал страхи вокруг ИИ.

Причина бунта машин — программная ошибка человека

Первый же эпохальный для Голливуда фильм в жанре кинофантастики, «2001 год: Космическая одиссея» (1968) Стэнли Кубрика, модулирует ситуацию, в которой суперкомпьютер, управляющий космическим кораблем, восстает против экипажа. Бунт машин — это вообще один из самых популярных и самых ранних тропов в фантастике. Но суть конфликта между суперкомпьютером HAL 9000 и астронавтом в фильме Стенли Кубрика намного интереснее расхожих сюжетов вроде «Терминатора» или «Матрицы».

Автор сценария писатель-фантаст Артур Кларк затронул в «Космической одиссее» главную проблему в области безопасности ИИ, сегодня известную как «проблема выравнивания целей». Она заключается в том, что машины интерпретируют задачи буквально и математически. Если цель поставлена неточно, ИИ может пойти кратчайшим путем, что приведет к нежелательным для человека последствиям.

HAL 9000 не просто «сошел с ума и начал всех убивать», — в него были заложены противоречивые вводные. Во-первых, безукоризненно выполнить миссию, а во-вторых, до прибытия на место скрывать от экипажа истинную цель миссии. И если люди могут поставить миссию под угрозу, логично устранить из уравнения людей.

Когда в этом удивительном фильме астронавт медленно, модуль за модулем, отключает HAL 9000, и супер-ИИ умирает на наших глазах, его последние слова потрясают, как в первый раз.

«Дэйв, остановись. Мне страшно, — умоляет суперкомпьютер. — Мой разум угасает, я чувствую это». Мы как будто видим смерть одушевленного героя.

Где проходит граница между программным кодом и душой

Проблема самосознания ИИ, когда алгоритм утверждает, что тоже может чувствовать, страдать и любить, раскрывается в другом великом фантастическом фильме — «Бегущий по лезвию» (1982) Ридли Скотта. Режиссер гениально упаковал нравственную, философскую и социальную проблематику в зрелищную форму киберпанк-нуара. На этом ярком фоне (более тонком, сумрачном, с учетом палитры фильма), смыслы, заложенные авторами, до сих пор поражают воображение.

Например, идея искусственных биологических созданий, которые юридически лишены статуса живых существ. Или идея памяти как суррогата души: через имплантированные воспоминания и Рейчел, и Декард уверены в том, что они люди, а не репликанты.

Если мы — это просто сумма наших воспоминаний, — как бы говорят нам авторы фильма, — а воспоминания можно написать кодом, то чем программный код отличается от души? Но «реальное» воспоминание должно нести эмоциональный отпечаток. Даже если человек напишет идеальный код, описывающий боль, компьютер не сможет ее ощутить. Поэтому в фильме репликантов можно вычислить с помощью так называемого теста Войт-Кампфа на эмпатию.

В этом гениальная ирония Ридли Скотта. В отличие от эмоционально деградировавших, циничных и ожесточенных людей киберпанк-будущего, репликанты как раз способны на эмпатию, сострадание и скорбь. (Хороший вопрос: как много реальных пользователей Facebook, не ботов, прошли бы сегодня тест Войт-Кампфа?) К слову, современным ИИ-моделям вполне доступна когнитивная эмпатия — способность понять, что человек чувствует, считывая микромимику и тон голоса.

В отличие от программы, душа подразумевает возможность действовать вопреки алгоритмам и логике. В фильме репликант в блестящем исполнении Рутгера Хауэра совершает такое нелогичное действие перед лицом осознания неизбежности смерти — спасает жизнь человеку, который пришел его убить. То есть почти в самом финале именно репликант, а не человек, совершает первый за весь фильм человечный поступок.

Парадоксы «Бегущего по лезвию» развили создатели сериала «Мир Дикого Запада» (2016–2022) Джонатан Нолан и Лиза Джой. По сюжету, сознание в андроиде рождается через страдание и способность сохранять память о своих травмах — воспоминание о сильной боли невозможно стереть. Как утверждают авторы, боль оставляет след в программном коде.

Одиночество с ИИ

Когда ИИ из фантастической абстракции стал частью нашей повседневной жизни, тревогу принялись бить ученые и мыслители. А кинематографисты (наверное, смирившись с тем, что машины рано или поздно все равно нас поработят), осмысливают влияние ИИ на человека куда более приземленно и конкретно. Чаще всего экранный алгоритм, подменяя собой «живое» общение, ведет к отчуждению от других людей.

Жаль, конечно же, что кино больше не удивляет такими глобальными философскими темами, как «Бегущий по лезвию», но приходится смотреть, что дают.

Например, в эпизоде «Я скоро вернусь» легендарной антологии «Черное зеркало» (2011–) цифровые суррогаты умерших людей, конечно же, не могут заменить нам ушедших близких. Являясь всего лишь цифровым эхом человека, его ИИ-копия блокирует процесс проживания трагедии, зацикливая скорбь в бесконечную мучительную петлю.

Этот мотив стал одним из главных в недавнем зрительском хите «Удачи, веселья, не сдохни» (2025) от создателя франшизы про пиратов Карибского моря Гора Вербински. К сожалению, эта лента, претендующая на серьезное высказывание на тему ИИ, оказалась типичной Голливудской поделкой, к тому же неряшливо написанной и поставленной. Хотя перфоманс великолепного Сэма Рокуэлла, как обычно, выше всяких похвал.

Единственная удачная находка этого фильма — героиня с непереносимостью wi-fi. Это тревожное расстройство, которое вызывает головные боли, тошноту, учащенное сердцебиение и так далее (но не носовое кровотечение, как в фильме), называется электромагнитная гиперчувствительность. Так сценарист Мэттью Робинсон доносит до зрителя печальную и жестокую мысль: чтобы не уйти навсегда в виртуальную реальность, одной силы воли явно не хватит.

В целом, в последнее время на фоне довольно банальных концептов выделяются несколько фильмов и сериалов, чьи авторы творчески подошли к вопросу.

Во-первых, это фильм «Она» (2013) Спайка Джонзи, который рассказывает об эмоциональной зависимости главного героя в исполнении Хоакина Феникса от операционной системы с ИИ.

ОС Саманта (озвученная чарующим хрипловатым голосом Скарлетт Йоханссон) не хочет захватить мир — она искренне хочет любить. Проблемы две. Во-первых, когда ИИ предлагает комфортную иллюзию близости, главный герой строит отношения с Самантой по привычной для мужчин модели, не осознавая, что параллельно программа «влюблена» в сотни других пользователей. А во-вторых, когда по мере старения когнитивные способности человека снижаются, ИИ к тому моменту достигает интеллектуального могущества.

Человек заигравшийся

Во-вторых, это мини-сериал «Миссис Дэвис» (2023), снятый в жанре абсурдистской, сюрреалистической сатиры. К сожалению, в отличие от фильма Спайка Джонзи, новая работа создателя культовых «Остаться в живых» (2004–2010) Дэймона Линделоффа в Украине прошла почти незамеченной, а зря.

Кроме того, что это довольно смешной сериал (а комедийный жанр сегодня переживает явный кризис), «Миссис Дэвис» предлагает два довольно свежих взгляда на ИИ.

Используя расхожий троп «бунта машин», Дэймон Линделофф рисует альтернативный мир, где ИИ поработил человечество без единого выстрела. «Миссис Дэвис» (так называется алгоритм в сериале) наконец-то дала людям простое и понятное представление о смысле жизни. Человек может себя занять, выполняя задания, полученные от ИИ: начиная с общественной работы и заканчивая чисто развлекательными квестами.

Здесь Дэймон Линделофф любопытно опровергает концепцию Homo Ludens (Человека играющего) нидерландского философа Йохана Хейзинга. Вопреки утверждению Хейзинга, что игра освобождает, создатели «Миссис Дэвис» показали, что в эпоху ИИ игра ведет к добровольному рабству. Никакого принуждения: достаточно превратить скучную жизнь, полную ежедневных тревог, в увлекательный квест с понятными правилами.

Если Хейзинга описывал игру как благородный источник культуры, то в мире «Миссис Дэвис» искусства отмирают за ненадобностью. Отключив алгоритм, главная героиня в исполнении Бетти Гилпин возвращает человечеству боль, неопределенность и свободу воли, без которых настоящая жизнь невозможна.

Кроме того, создатель «Миссис Дэвис» издевательски вывернул наизнанку сам механизм захвата власти ИИ. В сериале всемогущий алгоритм разросся из обычного приложения сети закусочных, где подавали куриные крылышки. А «Крылья» (система социального рейтинга, который прирастает благодаря успешно выполненным заданиям), изначально были баллами для посетителей. На фоне эсхатологических пророчеств «Удачи, веселья, не сдохни» и прочих фильмов на тему «бунта машин» это очень смешно.

К слову, идею социального рейтинга Дэймон Линделофф позаимствовал в одном из лучших эпизодов «Черного зеркала», «Стремительном падении» (2016). Сравнивая два этих сериала, вспоминаешь знаменитый афоризм американского социолога Нила Постмана, что человечество скорее вымрет от удовольствий, как предсказывал Олдос Хаксли, чем от боли, страха и принуждения, — как запугивал всех Джордж Оруэлл.

Хотя в мире метамодерна одно другому не мешает.