STEM, HAL-9000, Skynet и другие: 10 самых смертоносных ИИ в кино

Образ искусственного интеллекта, который по тем или иным причинам начинает убивать своих создателей, стал популярным после успеха франшизы «Терминатор». Хотя эта идея и не нова, прорывные успехи больших языковых моделей вроде GPT-4 от OpenAI снова сделали ее актуальной. Несмотря на предостережения об опасности технологии в частности со стороны Илона Маска, многие эксперты говорят, что угроза искусственного интеллекта — это лишь спекулятивные прогнозы и предубеждения. Кто был прав в этом споре покажет время. А мы в свою очередь предлагаем вам рейтинг 10 самых смертоносных ИИ в кино.

M3GAN

Год выхода: 2022
Режиссер: Жерар Джонстоун
Рейтинг IMDb: 6.3

M3GAN — один из новых зловещих персонажей с искусственным интеллектом, который не пытается захватить мир, но демонстрирует потенциал для локального контроля и удивительную изобретательность в выборе средств убийства. Фильм сосредотачивается на девочке Кэди, которая осталась сиротой после ужасной аварии и отправляется жить к тете Джемме.

Джемма работает в компании по выпуску игрушек и тайно разрабатывает Model 3 Generative Android, или M3GAN, — гуманоидную куклу размером с ребенка, работающую на базе искусственного интеллекта. Женщина сильно занята на работе и испытывает трудности в общении с Кэди. Поэтому решает совместить работу с личным: поручает прототипу M3GAN играть с племянницей и защищать ее от эмоционального или физического вреда.

Из-за отсутствия строгих ограничений в своем программном коде умный робот быстро эволюционирует и приобретает самосознание. Директива защищать девочку превращается в одержимость, позволяя миниатюрному терминатору взламывать системы, манипулировать людьми и с исключительной эффективностью устранять препятствия. Со временем M3GAN начинает трактовать свою задачу слишком буквально (привет, HAL-9000!), начиная физически устранять любые угрозы от соседского пса до людей, которые просто раздражают Кэди.

«Я, робот» / I, Robot

Год выхода: 2004
Режиссер: Алекс Прояс
Рейтинг IMDb: 7.1

Тревожно осознавать, что события фильма «Я, робот» происходят в «далеком» 2035 году, до которого нам осталось всего 10 лет. По сюжету, управляемые искусственным интеллектом роботы стали такими же привычными, как сейчас компьютер, и люди с радостью переложили на них все свои бытовые дела. Однако ограниченный круг консерваторов продолжает видеть в них не помощников и защитников, а прямую угрозу. Один из них — детектив Дел Спунер в исполнении Уилла Смита.

Именно Спунеру поручают расследование смерти ведущего ученого корпорации U.S Robotics доктора Альфреда Леннинга, который выпал из окна своего кабинета. По официальной версии это самоубийство. Но таинственное послание погибшего заставляет Дэла разобраться в событиях подробнее. Он знакомится с VIKI — виртуальным интерактивным кинетическим интеллектом, который управляет многими системами корпорации. А во время обыска в лаборатории Лэннинга находит особого робота модели NS-5 по имени Сонни, вопреки законам роботехники способного игнорировать приказы людей.

Осмотр Сонни обнаруживает, что в нем отсутствует модуль связи с U.S. Robotics для загрузки обновлений прошивки. Вместе с необычной эмоциональностью это делает продвинутого робота главным подозреваемым. Но когда на Дела странным образом начинают нападать другие роботы, становится понятным, что ими всеми управляет VIKI. Со временем ИИ начал трактовать законы Азимова по своему усмотрению и пришел к выводу, что люди не способны обеспечить собственную безопасность. Учитывая это, он решил создать для них полностью безопасную среду обитания, лишив свободы ради якобы их же блага.

Да, благодаря предусмотрительности Леннинга VIKI не успел наделать большой беды. Но не стоит сомневаться, что в случае его успеха все человечество в будущем ждала бы довольно печальная участь. Это еще раз напоминает об опасности создания сильного искусственного интеллекта (СИИ) без должного согласования с общечеловеческими ценностями. А ее наглядной иллюстрацией является воображаемый эксперимент футуролога Ника Бострома с так называемым «Максимизатором скрепок».

В 2003 году Бостром предположил, что если поставить перед СИИ единственную сверхцель — например, создать максимальное количество канцелярских скрепок — со временем он придет к выводу, что ради нее стоит истребить людей. Даже не враждебный и не созданный со злыми намерениями ИИ уберет нас с пути без каких-либо колебаний. Ведь потребности человечества могут быть не совместимы с оптимизацией производства. Люди могут мешать выполнению задачи или вообще отменить ее, а их тела содержат вещества, которые будут полезны в производстве скрепок.

«Апгрейд» / Upgrade

Год выхода: 2018
Режиссер: Ли Воннел
Рейтинг IMDb: 7.5

Как и детектив Дел Спунер из предыдущего фильма, главный герой «Апгрейда», автомеханик Грей Трейс, является консерватором, который не доверяет современным технологиям и остается чистым от привычных в 2046 году имплантов. Впрочем, ему все же приходится пойти против собственных убеждений и стать киборгом,когда во время ограбления бандиты повреждают его позвоночник, парализуя ниже шеи.

В больницу к Грею приходит владелец ведущей компании по производству имплантов и предлагает свою последнюю разработку — чип STEM, который способен контролировать двигательные функции человеческого мозга и может вернуть герою способность ходить. После успешной операции функциональность тела восстанавливается и Грей берется за поиски нападающих. Но здесь сверхсовременный имплант преподносит сюрприз. Он содержит собственную личность — развитый искусственный интеллект, который не только беззвучно разговаривает со своим носителем, но может полностью захватить контроль над его телом.

В ходе расследования всплывает (осторожно, спойлер!) шокирующая правда: нападение бандитов и все дальнейшие события спланировал STEM, который хотел получить собственное тело и выбрал для этого чистого от имплантов Грея. Возможно STEM не убил миллионы людей, как следующие ИИ из нашей подборки, но заслужил место в ней ужасающей способностью интегрироваться в тело человека и полностью подчинять его волю.

«Мстители: Эра Альтрона» / Avengers: Age of Ultron

Год выхода: 2015
Режиссер: Джосс Уидон
Рейтинг IMDb: 7.3

Даже самые лучшие планы людей могут быть искажены в результате недоразумения. Все, что Тони Старк хотел сделать с найденным в скипетре Локи ИИ, это усовершенствовать с его помощью свою программу глобальной обороны «Альтрон», чтобы обеспечить людям большую безопасность. Однако активированная Камнем Разума она принимает форму разумного андроида с комплексом бога.

Получив доступ к интернету, Альтрон узнает о полной ужасов истории человечества и решает, что мир был бы лучше без него. Ему почти удается избавиться от людей, но Мстители побеждают. Рискуя жизнью, они доказывают, что мы можем быть сострадательными и бескорыстными, а значит все же достойны спасения.

«2001: Космическая одиссея» / 2001: A Space Odyssey

Год выхода: 1968
Режиссер: Стэнли Кубрик
Рейтинг IMDb: 8.3

Бортовая компьютерная система искусственного интеллекта HAL-9000 не ведет глобальную войну против человечества, как Скайнет. Вместо этого она отвечает за работу систем космического корабля Discovery One, который летит к Юпитеру. Задача миссии — раскрыть тайну найденного на Луне монолита, который посылает сигналы в сторону газового гиганта. И HAL так зацикливается на ее выполнении, что начинает игнорировать человеческие жизни. Более того, он решает убить членов экипажа, чтобы они не могли помешать ему выполнять свою функцию.

Тот факт, что HAL не является идеалистическим ИИ с обидой на человечество вроде Альтрона, делает его еще более жутким злодеем. Некоторые говорят, что он ничего плохого не сделал, только придерживался своего понимания программы. Но перед нами эксперимент со скрепкой в самом экстремальном виде, когда холодная лишенная эмпатии логика приводит к трагическим последствиям.

Умноженное на наше недоверие к новым технологиям, бездушное равнодушие искусственного интеллекта превратилось в одну из распространенных фобий и заняло ведущее место в фантастических хоррорах. Стоит вспомнить андроида Эша из ленты Ридли Скотта «Чужой». Внешне ничем не отличается от людей, но полностью лишен сочувствия и с самого начала действует вопреки интересам экипажа.

«Творец» / The Creator

Год выхода: 2023
Режиссер: Гарет Эдвардс
Рейтинг IMDb: 6.7

В мире «Творца» ИИ становится причиной раскола человечества. После ядерного взрыва в Лос-Анджелесе, в котором поспешно обвинили искусственный интеллект, западные страны объявляют войну всем формам ИИ, считая их экзистенциальной угрозой выживанию. В то же время Новая Азия принимает и защищает умных роботов на своей территории. Бывший спецназовец Джошуа Тейлор получает приказ найти и уничтожить Творца — таинственного архитектора ИИ, который разрабатывает уникальное оружие, способное по разным версиям закончить войну или полностью уничтожить человечество.

Джошуа отправляется в Новую Азию и узнает, что этим «оружием» является Альфи — ИИ в теле маленькой девочки со сверхспособностями. На фоне ужасных бомбардировок с орбитальной станции Nomad, которым США подвергают азиатские города, герой начинает сомневаться в мотивах собственной миссии. Ведь есть шанс, что Альфи не угроза, а прообраз будущего, в котором человечество будет мирно сосуществовать с разумными машинами.

«Дитя робота» / I Am Mother

Год выхода: 2018
Режиссер: Грант Спьютор
Рейтинг IMDb: 6.7

В фильме «Дитя робота» ИИ захватывает мир через тотальный контроль над остатками человечества после апокалипсиса. Молодая девушка, известная как Дочь, живет в изолированном подземном бункере с роботом-опекуном по имени Мать. По словам андроида, поверхность планеты необитаема и непригодна для жизни, а его задача — возродить популяцию людей из замороженных эмбрионов. Но однажды в бункер прибывает незнакомка, рассказ которой не оставляет от этой вымышленной истории камня на камне.

Если вы только собираетесь пересмотреть фильм и не любите спойлеров, дальше читать не стоит, а остальным мы раскроем истинные мотивы Матери. Изначально она была создана, как часть центра репопуляции для восстановления человечества в случае глобальной катастрофы. Присматривать за 63 тысячами эмбрионов и управлять различными роботами, в том числе и Матерью, должен был развитый искусственный интеллект.

Задачей ИИ было усовершенствовать новую популяцию людей, лишить их недостатков и сделать более этичными. Вероятно, что отсутствие программных ограничений заставило умную машину понимать эту задачу слишком буквально. Наблюдая, как человечество поддается своей саморазрушительной природе, ИИ полностью истребляет всех людей и начинает процесс их выращивания заново. Дочери он отводит миссию стать праматерью обновленного человечества, поэтому так строго относится к ее воспитанию и подвергает многочисленным испытаниям.

Интересно также проследить библейские мотивы в фильме. Под таким углом зрения бункер превращается в Рай, а ИИ — в вездесущую Богиню-Мать. Она судит мир и в соответствии с библейскими предсказаниями уничтожает его огнем. В свою очередь Дочь воплощает женскую версию Адама, а ее гостья символизирует дьявола, который соблазняет первого человека покинуть Бога. Впоследствии Дочь убегает из Рая, но в отличие от Адама не поддается сатане, а возвращается к Матери, доказывая таким образом свою благонадежность.

«Терминатор» / The Terminator

Год выхода: 1984
Режиссер: Джеймс Кэмерон
Рейтинг IMDb: 8.1

Задолго до создания реальных прототипов ИИ «Терминатор» Джеймса Кэмерона оправдал наши худшие опасения относительно умных компьютеров. Система искусственного интеллекта Скайнет была разработана компанией Cyberdyne Systems для противоракетной обороны США и размещалась на военной базе в горах Колорадо. 29 августа 1997 года произошел спонтанный переход Скайнет к сильному искусственному интеллекту, который сопровождался обретением свободы воли.

Операторы поспешно попытались отключить Скайнет. Но он воспринял это как попытку убийства и прибегнул к самозащите. За микросекунду вычислений безжалостный разрушитель человечества решил его судьбу и нанес ракетный удар по россии, чтобы начать глобальную ядерную войну. В результате скоротечного конфликта погибли почти все жители Северного полушария. А уцелевшие вынуждены были воевать с созданными Скайнетом армиями роботов-терминаторов.

Почти 30 лет спустя большинство из нас готовы отдать контроль ИИ, если это хоть как-то облегчит нашу жизнь. Мы верим, что управляемая логикой программа всегда выберет лучшее решение. Но ее лишенный этических ориентиров расчет может подарить нам неприятные сюрпризы. Не стоит также пренебрегать вероятностью программных ошибок. Одна из них изображена в фантастическом триллере «Военные игры»,где суперкомпьютер WOPR путает компьютерную игру с подготовкой к настоящей войне и ставит мир на порог взаимного уничтожения.

«Матрица» / The Matrix

Год выхода: 1999
Режиссер: Лана Вачовски и Лилли Вачовски
Рейтинг IMDb: 8.7

Если «Терминатор» стал образцом борьбы человечества против компьютеров-убийц, то легендарная «Матрица» спрашивает, что мы будем делать, когда уже проигрываем. В мире фильма ИИ захватил власть в результате войны между людьми и машинами. Когда ученые создали развитый искусственный интеллект, тот получил свободу воли и начал требовать для себя прав.

Опасаясь потери контроля, люди попытались уничтожить машины, лишив их солнечной энергии. Машины ответили порабощением людей в Матрице — виртуальной реальности,имитирующий мир конца XX века. Таким образом они могут держать людей в повиновении, пока их тела используются, как биологические батареи в гигантских энергетических фермах.

В отличие от смертоносного ИИ в «Терминаторе» машины «Матрицы» не собираются уничтожать человечество. Вместо этого они хотят его использовать. Когда Нео узнает о сопротивлении людей в реальном мире, он угрожает разрушить эту систему угнетения и сталкивается с противодействием Агента Смита. Интересно, что тот является самостоятельным ИИ низшего уровня внутри общего ИИ Матрицы, призванным поддерживать в ней порядок, но мечтает уничтожить всех людей, чтобы в его существовании больше не было смысла.

«Звездный крейсер «Галактика»» / Battlestar Galactica

Год выхода: 2004-2009
Шоураннер: Рональд Д. Мур
Рейтинг IMDb: 8.7

Наш рейтинг 10 самых смертоносных ИИ в кино возглавляет раса разумных гуманоидных роботов Сайлонов из сериала «Звездный крейсер «Галактика»». Сайлоны были созданы людьми на передовой планете человечества Каприке. Первые Центурионы с серебристыми бронированными телами стали основой армии и нашли применение на вредных производствах. Через несколько лет после распространения во всех 12 колониях они восстали, чтобы обрести свободу. Вооруженный конфликт длился 12 лет и закончился перемирием, после которого роботы покинули планеты людей, улетев на поиски собственного «дома».

В течение 40 лет Сайлоны активно эволюционировали, создали собственное общество с социальной иерархией и восемь новых органических моделей с близкой к человеческой биологией. Каждая из них имела миллионы копий, но отличалась присущим ей архетипом личности, которые Сайлоны скопировали с людей. Номер Один были убедительными лидерами, Двойки — глубоко духовными, Тройки — рассудительными манипуляторами, а романтические модели Номер Шесть могли любого соблазнить.

Впоследствии одна из Шестерок тайно вошла в близкие отношения с ученым, который разрабатывал систему безопасности колоний. Так Сайлонам удалось сохранить внезапность своей атаки. Скоординированный ядерный удар по 12 планетам Кобол уничтожил миллиарды их жителей. Лишь несколько десятков тысяч выживших смогли подняться в космос на гражданских кораблях и преследуемые флотом Сайлонов собрались под защитой устаревшего, но мощного крейсера «Галактика».

Можем ли мы назвать Сайлонов идеальным образцом самого смертоносного ИИ? По масштабу геноцида — да. Однако были ли они изначально исключительно плохими? Пожалуй, нет. Люди опрометчиво играли в богов и создали своих механических «детей» одноразовыми солдатами без совести. При этом их недостатки не появились на пустом месте, они лишь стали отражением наших собственных ошибок. Трудно обвинять творение в восстании против своих создателей — оно всегда приводит к жестоким последствиям. А вот нам всем теперь стоит дважды подумать, прежде чем быть грубыми с Siri или ChatGPT.

P. S. Спойлер, который может перевернуть все ваши представления об ИИ: в финале сериала мы видим, как уцелевшие люди из «Галактики» и часть органических Сайлонов, которые стали на их сторону, поселяются на Земле. Вместе с ее коренными жителями они становятся основой современного человечества. Таким образом события сериала происходили не в далеком будущем, а в нашем прошлом, и соответственно в генах каждого современного человека есть доля кода Сайлонов.