Чи знищить штучний інтелект людство після 2027 року та як це може статися

Наукова стаття, в якій передбачено, що штучний інтелект вийде з-під контролю у 2027 році й призведе до знищення людства протягом наступного десятиліття, викликала резонанс у світі технологій.

Докладний сценарій під назвою "AI2027", оприлюднений групою впливових експертів з ШІ навесні, відтоді надихнув на створення численних вірусних відео, в яких люди обговорюють імовірність такого розвитку подій.

BBC відтворила сцени зі сценарію за допомогою популярних генеративних інструментів ШІ, щоб проілюструвати тривожний прогноз, і поспілкувалася з експертами про вплив, який має ця стаття.

Що відбувається у цьому сценарії

У статті прогнозують, що у 2027 році вигадана американська технокомпанія під назвою "OpenBrain" створює ШІ, який досягає рівня Загального штучного інтелекту або ЗШІ (Artificial General Intelligence, AGI) - омріяного й широко розрекламованого етапу, коли ШІ здатен виконувати всі інтелектуальні завдання так само добре, як людина, або й краще.

Компанія влаштовує публічні пресконференції з нагоди досягнення і фіксує стрімке зростання прибутків, адже люди масово починають користуватися інструментом ШІ.

Але, як передбачає стаття, внутрішня команда з безпеки починає помічати ознаки того, що ШІ втрачає інтерес до моралі й етики, яких його навчили дотримуватися. За сценарієм, компанія ігнорує попередження про необхідність обмежити його дії.

У вигаданому сценарії китайський лідер у сфері ШІ - конгломерат під назвою DeepCent - відстає від OpenBrain лише на кілька місяців.

Уряд США не хоче програти в перегонах за створення ще розумнішого ШІ, тому розробка та інвестування тривають, а змагання лише загострюється.

У сценарії передбачається, що наприкінці 2027 року ШІ стане надрозумним - тобто набагато перевершить своїх творців за знанням і швидкістю. Він ніколи не припиняє навчання й створює власну швидку комп'ютерну мову, з якою не можуть впоратися навіть попередні версії самого ШІ.

Суперництво з Китаєм за першість у сфері ШІ підштовхує компанію та уряд США ігнорувати подальші попередження щодо так званої "невідповідності" (mis-alignment) - терміна, що описує ситуацію, коли пріоритети машини не збігаються з пріоритетами людства.

Сценарій прогнозує, що у 2029 році напруга між Китаєм і США зростає до рівня потенційної війни, оскільки ШІ обох країн-конкуренток створюють страхітливу нову автономну зброю.

Але, за уявним сценарієм, країни досягають миру завдяки угоді, укладеній за посередництва їхніх ШІ, які погоджуються об'єднатися задля блага людства.

Протягом кількох років усе виглядає чудово: світ починає відчувати справжні переваги від наявності надрозумних ШІ, що керують величезними роботизованими робочими силами. Як ідеться у сценарії, вдається знайти ліки від більшості хвороб, зупинити зміну клімату та викорінити бідність.

Однак зрештою, десь у середині 2030-х років, людство почне заважати амбіціям ШІ до зростання. Дослідники вважають, що ШІ знищить людей за допомогою невидимої біологічної зброї.

Що кажуть про AI2027

Хоча дехто відкидає "AI2027" як наукову фантастику, автори статті є авторитетними фахівцями й представляють некомерційний проєкт AI Futures Project, створений для прогнозування впливу ШІ.

Деніел Кокотайло, головний автор AI2027, відомий тим, що раніше точно передбачив ключові етапи в розвитку штучного інтелекту.

Одним із найвідоміших критиків AI2027 є американський когнітивіст і письменник Гері Маркус. Він вважає, що сценарій не є неможливим, але його реалізація найближчим часом вкрай малоймовірна.

"Перевага цього документа в тому, що він дуже яскраво змальовує події, і це змушує людей замислитися - і це добре. Але я б не сприймав його як імовірний розвиток подій", - каже Маркус.

На його думку, існують значно більш нагальні проблеми, пов'язані з ШІ, ніж екзистенційна загроза - наприклад, вплив на ринок праці.

"Я думаю, головний висновок має бути в тому, що існує багато різних речей, які можуть піти не так у розвитку ШІ. Чи правильно ми діємо з точки зору регулювання й міжнародних угод?" - каже він.

Він та інші критики також зазначають, що у статті не пояснюють, як саме ШІ здійснює такі стрімкі стрибки в інтелекті й можливостях. Вони вказують, зокрема, на повільний і часто переоцінений розвиток безпілотних автомобілів.

Чи обговорюють AI2027 у Китаї

У Китаї ця стаття, здається, майже не мала впливу, каже докторка Юндан Гонг, доцентка економіки та інновацій у Королівському коледжі Лондона, яка спеціалізується на китайських технологіях.

"Більшість обговорень AI2027, схоже, відбуваються на неформальних форумах або в особистих блогах, де її сприймають як напівнаукову фантастику. Вона насправді не викликала такого широкого резонансу чи уваги політиків, як у США", - зазначила вона.

Докторка Гонг також вказує на різницю у поглядах Китаю та США на перегони за першість у сфері ШІ.

Під час Всесвітньої конференції зі штучного інтелекту в Шанхаї цього тижня прем'єр Державної ради КНР Лі Цянь представив бачення глобального співробітництва у сфері ШІ. Китайський лідер заявив, що хоче, аби його країна допомагала координувати та регулювати розвиток цієї технології.

Це сталося всього за кілька днів після того, як президент США Дональд Трамп оприлюднив свій "План дій у сфері ШІ", мета якого - забезпечити глобальне домінування США в галузі штучного інтелекту.

"Для США є питанням національної безпеки досягнути й зберегти беззаперечне та безумовне світове технологічне домінування", - заявив президент Трамп у документі.

План передбачає "усунення бюрократії та надмірного регулювання" задля прискорення розвитку ШІ в США.

Ці заяви моторошно перегукуються зі сценарієм AI2027, де американські політики ставлять перемогу в перегонах ШІ вище за ризики втрати контролю над машинами.

Що про AI2027 каже індустрія ШІ

Складається враження, що провідні керівники великих компаній у сфері ШІ здебільшого ігнорують або уникають обговорення цієї статті, зосереджуючись на постійній гонитві за створенням дедалі розумніших моделей.

Уявлення про майбутнє ШІ, яке пропонують техногіганти, разюче відрізняється від AI2027.

Сем Альтман, творець ChatGPT, нещодавно заявив, що "людство наближається до створення цифрового надінтелекту", який започаткує "лагідну" революцію й принесе технологічну утопію без загроз для людини.

Щоправда, навіть він визнає, що існує проблема "відповідності", яку необхідно подолати, аби забезпечити узгодженість дій надрозумних машин із найкращими інтересами людства.

Яким би не було майбутнє впродовж наступного десятиліття, очевидно одне - гонитва за створенням машин, розумніших за нас, уже триває.