Людство вигадало нову "ядерну зброю": стартували небезпечні перегони військового ШІ

Світ входить до ери, де штучний інтелект стає аналогом ядерної зброї, а дрони воюють без участі людини. США, Китай та Росія вже включилися в перегони, які можуть назавжди змінити поняття глобальної безпеки.

Про це йдеться у статті il Giornale.

Військові технології, що базуються на штучному інтелекті, дедалі більше турбують експертів. Фахівці застерігають: «Існує ризик, що така технологія вийде з-під контролю людини».

Традиційні види зброї масового ураження поступаються заснованим на ШІ системам

Сучасний розвиток військових технологій та конфлікти останніх років — від України до Близького Сходу — свідчать, що традиційні види зброї масового ураження поступово втрачають свою домінувальну роль, поступаючись системам, заснованим на ШІ, які дедалі менше контролюються людиною.

Подібно до періоду після Другої світової війни, нині США, Росія та Китай активно розробляють озброєння на базі ШІ як інструмент стримування та формування системи «гарантованого взаємного знищення», відомої ще від часів холодної війни. Про це заявив Палмер Лакі — засновник каліфорнійського оборонного стартапу Anduril, який спеціалізується на створенні автономних дронів зі штучним інтелектом. Його позицію цитує The New York Times, що нещодавно опублікувала розгорнутий матеріал про війни майбутнього.

За даними джерел у сфері оборони та розвідки, кожна країна прагне сформувати максимально потужний технологічний арсенал на випадок конфліктів нового типу — коли протистояння відбуватиметься не лише між людьми, а й між дронами та алгоритмами, причому за сценаріями, які поки що залишаються незрозумілими для людства.

Автономну зброю з ШІ порівнюють із початком ядерної епохи

У США рівень занепокоєння зріс після військового параду в Пекіні минулої осені. Під час заходу, на якому були присутні лідер КНР Сі Цзіньпін, а також лідери Росії та Північної Кореї, Китай продемонстрував новітні безпілотники, здатні діяти автономно разом із бойовою авіацією. Після цього у Пентагоні дійшли висновку про необхідність пришвидшити розробку бойових дронів і посилити взаємодію з оборонними компаніями для реагування на нові виклики.

Ключовою особливістю сучасних озброєнь і систем оборони є їхня здатність діяти автономно завдяки використанню штучного інтелекту. Це суттєво знижує необхідність участі людини в ухваленні рішень, зокрема під час ураження рухомих цілей або відбиття атак. Подібні технологічні зміни, які вже поширюються не лише серед провідних держав, дедалі частіше порівнюють із початком ядерної епохи, що у 1940-х роках сформувала нестабільний баланс страху між наддержавами.

Водночас, як зазначає NYT, якщо наслідки застосування ядерної зброї добре вивчені, то потенціал військового використання штучного інтелекту поки що залишається до кінця не зрозумілим.

Показовим прикладом, хоч і поза межами суто військової сфери, стало рішення компанії Anthropic відмовитися від запуску нової моделі ШІ Mythos. Причиною стало те, що вона потенційно здатна виводити з ладу комп’ютерні системи, які забезпечують роботу критичної інфраструктури — зокрема банків, енергомереж і систем управління повітряним рухом.

Ще одна суттєва відмінність від ядерної доби полягає у ролі приватного сектору: нині стартапи та інвестори активно впливають на розвиток військових технологій поряд із державами та науковими установами. Водночас визначити беззаперечного лідера в перегонах військового ШІ складно — значна частина інформації засекречена, хоча масштаб протистояння очевидний. Ще 2017 року президент Росії Володимир Путін заявив, що той, хто стане лідером у сфері штучного інтелекту, «стане володарем світу».

Два роки тому Сі Цзіньпін назвав цю сферу «головним полем бою» геополітичної конкуренції. Саме такі оцінки, зокрема, підштовхнули міністра оборони США Піта Гегсета у січні дати наказ усім підрозділам збройних сил активно впроваджувати ШІ, прискорюючи цей процес «шаленими темпами».

Спроби врегулювати сферу військового ШІ обмежені

Попри стрімкий розвиток, спроби врегулювати цю сферу залишаються обмеженими. Єдиною помітною домовленістю стала угода між США та Китаєм 2024 року щодо озброєнь на базі ШІ, яка, однак, має рекомендаційний характер і передбачає збереження людського контролю над рішенням про використання ядерної зброї. Інших подібних міжнародних ініціатив наразі немає.

Тим часом розвиток штучного інтелекту лише набирає обертів. За оцінками експертів, чотири роки війни в Україні «стали лабораторією для світу». Останнім часом, за їхніми словами, Київ почав передавати дані з поля бою компанії Palantir — аналітичній структурі, співзасновником якої є Пітер Тіль, — а також іншим технологічним компаніям, щоб удосконалити можливості ШІ у веденні бойових дій.

Переваги і загрози від озброєнь на базі ШІ

На переконання Лакі, нарощування арсеналу озброєнь на основі штучного інтелекту за логікою, подібною до холодної війни, може стати стримувальним фактором для великих конфліктів.

«Навіть війни між наддержавами можуть згаснути, якщо вдасться створити інфраструктуру, здатну ефективно стримувати їх», — наголосив засновник компанії.

Водночас частина експертів звертає увагу на ризики: якщо концепція стримування базується на раціональності, то системи зі штучним інтелектом створюються для дій швидше, ніж здатна реагувати людина, що може призвести до небезпечних наслідків.

Дослідження та навчання, проведені 2020 року, показали, що автономні системи здатні пришвидшувати ескалацію під час міжнародних криз і зменшувати рівень людського контролю. Це викликає занепокоєння серед аналітиків і свідчить про те, що технології, негативні ефекти яких уже стають помітними, можуть у перспективі вийти з-під контролю.

До слова, раніше повідомлялося, що Пентагон надав ШІ-системі Maven від Palantir статус стандартного озброєння, забезпечивши компанії довгострокове фінансування. Система, яку називають «Google Earth для війни», у 50 разів пришвидшує виявлення цілей і вже використовується в Україні та в операціях проти Ірану. Попри високу ефективність, технологія викликає гостру критику через ризик помилок: алгоритми не завжди здатні відрізнити зброю від цивільних речей, що призводить до трагедій, як-от удар по школі в Ірані.