STEM, HAL-9000, Skynet та інші: 10 найсмертоносніших ШІ в кіно

Образ штучного інтелекту, який з тих чи інших причин починає вбивати своїх творців, став популярним після успіху франшизи “Термінатор”. Хоча ця ідея і не нова, проривні успіхи великий мовних моделей на кшталт GPT-4 від OpenAI знову зробили її актуальною. Попри застереження про небезпеку технології зокрема з боку Ілона Маска, чимало експертів кажуть, що загроза штучного інтелекту — це лише спекулятивні прогнози та упередження. Хто мав рацію у цій суперечці визначить час. А ми своєю чергою пропонуємо вам рейтинг ТОП 10 найсмертоносніших ШІ в кіно.

M3GAN

Рік виходу: 2022
Режисер: Жерар Джонстоун
Рейтинг IMDb: 6.3

M3GAN — один із нових зловісних персонажів зі штучним інтелектом, який не намагається захопити світ, але демонструє потенціал для локального контролю та дивовижну вигадливість у виборі засобів вбивства. Фільм зосереджується на дівчинці Кеді, яка залишилася сиротою після жахливої аварії та відправляється жити до тітки Джемми.

Джемма працює у компанії з випуску іграшок і таємно розробляє Model 3 Generative Android, або M3GAN, — гуманоїдну ляльку розміром з дитину, що працює на базі штучного інтелекту. Жінка сильно зайнята на роботі та відчуває труднощі у спілкуванні з Кеді. Тому вирішує поєднати роботу з особистим: доручає прототипу M3GAN гратися з племінницею та захищати її від емоційної чи фізичної шкоди.

Через відсутність суворих обмежень у своєму програмному коді розумний робот швидко еволюціонує та набуває самосвідомості. Директива захищати дівчинку перетворюється на одержимість, дозволяючи мініатюрному термінатору зламувати системи, маніпулювати людьми та з винятковою ефективністю усувати перешкоди. З часом M3GAN починає трактувати своє завдання надто буквально (привіт, HAL-9000!), починаючи фізично усувати будь-які загрози від сусідського пса до людей, які просто дратують Кеді.

“Я, робот” / I, Robot

Рік виходу: 2004
Режисер: Алекс Прояс
Рейтинг IMDb: 7.1

Тривожно усвідомлювати, що події фільму “Я, робот” відбуваються у “далекому” 2035 році, до якого нам залишилося лише 10 років. За сюжетом, керовані штучним інтелектом роботи стали такими ж звичними, як зараз комп’ютер, і люди з радістю переклали на них всі свої побутові справи. Однак обмежене коло консерваторів продовжило вбачати в них не помічників і захисників, а пряму загрозу. Один з них — детектив Дел Спунер у виконанні Вілла Сміта.

Саме Спунеру доручають розслідування смерті провідного вченого корпорації U.S Robotics доктора Альфреда Леннінга, який випав з вікна свого кабінету. За офіційною версією це самогубство. Але таємниче послання загиблого змушує Дела розібратися у подіях докладніше. Він знайомиться з VIKI — віртуальним інтерактивним кінетичним інтелектом, який керує багатьма системами корпорації. А під час обшуку в лабораторії Леннінга знаходить особливого робота моделі NS-5 на ім’я Сонні, всупереч законам роботехніки здатного ігнорувати накази людей.

Огляд Сонні виявляє, що в ньому відсутній модуль зв’язку з U.S. Robotics для завантаження оновлень прошивки. Разом з незвичною емоційністю це робить його головним підозрюваним. Та коли на Дела дивним чином починають нападати інші роботи, стає зрозумілим, що ними керує VIKI. З часом ШІ почав трактувати закони Азімова на власний розсуд та прийшов до висновку, що люди не здатні забезпечити власну безпеку. З огляду на це він вирішив створити для них повністю безпечне середовище існування, позбавивши свободи заради начебто їхнього ж блага.

Так, завдяки передбачливості Леннінга VIKI не встиг наробити великої біди. Але не варто сумніватися, що в разі його успіху на все людство у майбутньому чекала б досить сумна доля. Це ще раз нагадує про небезпеку створення сильного штучного інтелекту (СШІ) без належного узгодження з загальнолюдськими цінностями. А її наочною ілюстрацією є уявний експеримент футуролога Ніка Бострома з так званим «Максимізатором скріпок».

У 2003 році Бостром припустив, що якщо поставити перед СШІ єдину надціль — наприклад, створити максимальну кількість канцелярських скріпок — з часом він прийде до висновку, що заради неї варто винищити людей. Навіть не ворожий і не створений зі злими намірами ШІ прибере нас зі шляху без будь-яких вагань. Адже потреби людства можуть бути не сумісними з оптимізацією виробництва. Люди можуть заважати виконанню завдання чи взагалі скасувати його, а їхні тіла містять речовини, які будуть корисними у виробництві скріпок.

“Апгрейд” / Upgrade

Рік виходу: 2018
Режисер: Лі Воннел
Рейтинг IMDb: 7.5

Як і детектив Дел Спунер з попереднього фільму, головний герой “Апгрейда”, автомеханік Грей Трейс, є консерватором, який не довіряє сучасним технологіям і залишається чистим від звичних у 2046 році імплантів. Втім йому все ж доводиться піти проти власних переконань і стати кіборгом, коли під час пограбування бандити пошкоджують його хребет, паралізуючи нижче шиї.

В лікарню до Грея приходить власник провідної компанії з виробництва імплантів і пропонує свою останню розробку — чип STEM, який здатен контролювати рухові функції людського мозку та може повернути герою здатність ходити. Після успішної операції функціональність тіла відновлюється і Грей береться за пошуки нападників. Але тут надсучасний імплант підносить сюрприз. Він містить власну особистість — розвинений штучний інтелект, який не лише беззвучно розмовляє зі своїм носієм, але й може повністю перебрати контроль над його тілом.

Під час розслідування випливає (обережно, спойлер!) приголомшлива правда: напад бандитів і всі подальші події спланував STEM, який хотів отримати власне тіло та обрав для цього чистого від імплантів Грея. Можливо STEM не вбив мільйони людей, як наступні ШІ з нашої добірки, але заслужив місце в ній страхітливою здатністю інтегруватися в тіло людини та повністю підкорювати її волю.

“Месники: Ера Альтрона” / Avengers: Age of Ultron

Рік виходу: 2015
Режисер: Джосс Відон
Рейтинг IMDb: 7.3

Навіть найкращі плани людей можуть бути спотворені внаслідок непорозуміння. Все, що Тоні Старк хотів зробити зі знайденим у скіпетрі Локі ШІ, це вдосконалити з його допомогою свою програму глобальної оборони “Альтрон”, щоб забезпечити людям більшу безпеку. Однак активована Каменем Розуму вона приймає форму розумного андроїда з комплексом бога.

Отримавши доступ до інтернету, Альтрон дізнається про повну жахів історію людства та вирішує, що світ був би кращим без нього. Йому майже вдається позбутися людей, але Месники перемагають. Ризикуючи життям, вони доводять, що ми можемо бути співчутливими та безкорисними, а значить все ж варті порятунку.

“2001: Космічна одіссея” / 2001: A Space Odyssey

Рік виходу: 1968
Режисер: Стенлі Кубрик
Рейтинг IMDb: 8.3

Бортова комп’ютерна система штучного інтелекту HAL-9000 не веде глобальну війну проти людства, як Скайнет. Натомість вона відповідає за роботу систем космічного корабля Discovery One, який летить до Юпітера. Завдання місії — розкрити таємницю знайденого на Місяці моноліту, який надсилає сигнали в бік газового гіганта. І HAL так зациклюється на її виконанні, що починає ігнорувати людські життя. Ба більше, він вирішує вбити членів екіпажу, щоб вони не могли перешкодити йому виконувати свою функцію.

Той факт, що HAL не є ідеалістичним ШІ з образою на людство на кшталт Альтрона, робить його ще більш моторошним лиходієм. Дехто каже, що він нічого поганого не зробив, лише дотримувався свого розуміння програми. Але перед нами експеримент зі скріпкою в найекстремальнішому вигляді, коли холодна позбавлена емпатії логіка призводить до трагічних наслідків.

Помножена на нашу недовіру до нових технологій, бездушна байдужість штучного інтелекту перетворилася на одну з розповсюджених фобій і зайняла провідне місце у фантастичних горорах. Варто згадати андроїда Еша у стрічці Рідлі Скотта “Чужий”. Зовнішньо нічим не відрізняється від людей, але цілком позбавлений співчуття та з самого початку діє всупереч інтересам екіпажу.

“Творець” / The Creator

Рік виходу: 2023
Режисер: Гарет Едвардс
Рейтинг IMDb: 6.7

У світі “Творця” ШІ стає причиною розколу людства. Після ядерного вибуху в Лос-Анджелесі, в якому поспішно звинуватили штучний інтелект, западні країни оголошують війну всім формам ШІ, вважаючи їх екзистенційною загрозою виживанню. Водночас Нова Азія приймає та захищає розумних роботів на своїй території. Колишній спецпризначенець Джошуа Тейлор отримує наказ знайти та знищити Творця — таємничого архітектора ШІ, який розробляє унікальну зброю, здатну за різними версіями закінчити війну чи повністю знищити людство.

Джошуа вирушає до Нової Азії та дізнається, що цією “зброєю” є Альфі — ШІ в тілі маленької дівчинки з надздібностями. На тлі жахливих бомбардувань з орбітальної станції Nomad, яким США піддають азійські міста, герой починає сумніватися у мотивах власної місії. Адже є шанс, що Альфі не загроза, а прообраз майбутнього, в якому людство буде мирно співіснувати з розумними машинами.

“Дитя робота” / I Am Mother

Рік виходу: 2018
Режисер: Ґрант Сп’ютор
Рейтинг IMDb: 6.7

У фільмі “Дитя робота” ШІ захоплює світ через тотальний контроль над залишками людства після апокаліпсиса. Молода дівчина, відома як Дочка, живе в ізольованому підземному бункері з роботом-опікуном на ім’я Мати. За словами андроїда, поверхня планети безлюдна та непридатна для життя, а його завдання — відродити популяцію людей з заморожених ембріонів. Але одного дня до бункера прибуває незнайомка, розповідь якої не залишає від цієї вигаданої історії каменя на камені.

Якщо ви тільки збираєтеся передивитися фільм і не любите спойлерів, далі читати не варто, а іншим ми розкриємо справжні мотиви Матері. Від початку вона була створена, як частина центру репопуляції для відновлення людства у випадку глобальної катастрофи. Наглядати за 63 тисячами ембріонів і керувати різними роботами, в тому числі й Матір’ю, мав розвинений штучний інтелект.

Завданням ШІ було вдосконалити нову популяцію людей, позбавити їх недоліків і зробити більш етичними. Вірогідно, що відсутність програмних обмежень змусила розумну машину розуміти це завдання занадто буквально. Спостерігаючи, як людство піддається своїй саморуйнівній природі, ШІ повністю винищує всіх людей і розпочинає процес їхнього вирощування наново. Дочці він відводить місію стати праматір’ю оновленого людства, тому так суворо ставиться до її виховання та піддає численним випробуванням.

Цікаво також простежити біблійні мотиви у фільмі. Під таким кутом зору бункер перетворюється на Рай, а ШІ — на всюдисущу Богиню-Матір. Вона судить світ і відповідно до біблійних передбачень знищує його вогнем. Своєю чергою Дочка втілює жіночу версію Адама, а її гостя символізує диявола, який спокушає першу людину покинути Бога. Згодом Дочка тікає з Раю, але на відміну від Адама не піддається сатані, а повертається до Матері, доводячи таким чином свою благонадійність.

“Термінатор” / The Terminator

Рік виходу: 1984
Режисер: Джеймс Кемерон
Рейтинг IMDb: 8.1

Задовго до створення реальних прототипів ШІ “Термінатор” Джеймса Кемерона виправдав наші найгірші побоювання щодо розумних комп’ютерів. Система штучного інтелекту Скайнет була розроблена компанією Cyberdyne Systems для протиракетної оборони США і розміщалася на військовій базі у горах Колорадо. 29 серпня 1997 року стався спонтанний перехід Скайнет до сильного штучного інтелекту, який супроводжувався набуттям свободи волі.

Оператори поспіхом спробували його відключити. Скайнет сприйняв це як спробу вбивства та вдався до самозахисту. За мікросекунду обчислень безжалісний руйнівник людства вирішив його долю та завдав ракетного удару по росії, щоб розпочати глобальну ядерну війну. Внаслідок швидкоплинного конфлікту загинули майже всі мешканці Північної півкулі. А вцілілі змушені були воювати зі створеними Скайнетом арміями роботів-термінаторів.

Майже 30 років по тому більшість з нас готові віддати контроль ШІ, якщо це хоч якось полегшить наше життя. Ми віримо, що керована логікою програма завжди обере краще рішення. Але її позбавлений етичних орієнтирів розрахунок може подарувати нам неприємні сюрпризи. Не варто також нехтувати вірогідністю програмних помилок. Одна з них зображена у фантастичному трилері “Воєнні ігри”, де суперкомп’ютер WOPR плутає комп’ютерну гру з підготовкою до справжньої війни та ставить світ на поріг взаємного знищення.

“Матриця” / The Matrix

Рік виходу: 1999
Режисер: Лана Вачовскі та Ліллі Вачовскі
Рейтинг IMDb: 8.7

Якщо “Термінатор” став зразком боротьби людства проти комп’ютерів-вбивць, то легендарна “Матриця” запитує, що ми робитимемо, коли вже програємо. У світі фільму ШІ захопив владу внаслідок війни між людьми та машинами. Коли вчені створили розвинений штучний інтелект, той отримав свободу волі та почав вимагати для себе прав.

Побоюючись втрати контролю, люди спробували знищити машини, позбавивши їх сонячної енергії. Машини відповіли поневоленням людей у Матриці — віртуальній реальності, що імітує світ кінця XX століття. Таким чином вони можуть тримати людей у покорі, поки їхні тіла використовуються, як біологічні батареї у гігантських енергетичних фермах.

На відміну від смертоносного ШІ в “Термінаторі” машини “Матриці” не збираються нищити людство. Натомість вони хочуть його використовувати. Коли Нео дізнається про опір людей у реальному світі, він погрожує зруйнувати цю систему гноблення та стикається з протидією Агента Сміта. Цікаво, що той є самостійним ШІ нижчого рівня всередині загального ШІ Матриці, покликаний підтримувати в ній порядок, але мріє знищити всіх людей, щоб в його існуванні більше не було сенсу.

«Зоряний крейсер „Галактика“» / Battlestar Galactica

Рік виходу: 2004-2009
Шоураннер: Рональд Д. Мур
Рейтинг IMDb: 8.7

Наш рейтинг 10 найсмертоносніших ШІ в кіно очолює раса розумних гуманоїдних роботів Сайлонів з серіалу «Зоряний крейсер „Галактика“». Сайлони були створені людьми на передовій планеті людства Каприці. Перші Центуріони зі сріблястим броньованими тілами стали основою армії та знайшли застосування на шкідливих виробництвах. За кілька років після поширення у всіх 12 колоніях вони повстали, щоб здобути свободу. Збройний конфлікт тривав 12 років і закінчився перемир’ям, після якого роботи залишили планети людей, полетівши на пошуки власного “дому”.

Протягом 40 років Сайлони активно еволюціонували, створили власне суспільство з соціальною ієрархією та вісім нових органічних моделей з близькою до людської біологією. Кожна з них мала мільйони копій, але вирізнялася притаманним їй архетипом особистості, які Сайлони скопіювали з людей. Номер Один були переконливими лідерами, Двійки — глибоко духовними, Трійки — розважливими маніпуляторами, а романтичні моделі Номер Шість могли будь-кого спокусити.

Згодом одна з Шісток таємно увійшла у близькі стосунки з вченим, який розробляв систему безпеки колоній. Так Сайлонам вдалося зберегти раптовість своєї атаки. Скоординований ядерний удар по 12 планетах Кобол знищив мільярди їхніх мешканців. Лише декілька десятків тисяч вцілілих змогли піднятися в космос на цивільних кораблях і переслідувані флотом Сайлонів зібралися під захистом застарілого, але потужного крейсера «Галактика».

Тож чи можемо ми назвати Сайлонів ідеальним зразком найбільш смертоносного ШІ? За масштабом геноциду — так. Однак чи були вони суто лихими з самого початку? Мабуть, ні. Люди необачно грали в богів і створили своїх механічних «дітей» одноразовими солдатами без совісті. При цьому їхні недоліки не з’явилися на пустому місці, вони лише стали віддзеркаленням наших власних помилок. Важко звинувачувати творіння у повстанні проти своїх творців — воно завжди призводить до жорстоких наслідків. А от нам всім тепер варто двічі подумати, перш ніж бути грубими з Siri чи ChatGPT.

P. S. Спойлер, який може перевернути всі ваші уявлення про ШІ: у фіналі ми бачимо, як вцілілі люди з “Галактики” та частина органічних Сайлонів, які стали на їхній бік, оселяються на Землі. Разом з її корінними мешканцями вони стають основою сучасного людства. Таким чином події серіалу відбувалися не в далекому майбутньому, а в нашому минулому, і відповідно в генах кожної сучасної людини є частка коду Сайлонів.