"Гірше за ядерну зброю": Ватикан попередив світ про загрозу апокаліпсису через штучний інтелект

Католицька церква почала попереджати про екзистенційну небезпеку від новітніх технологій задовго до гучних заяв американських корпорацій. Глава Святого Престолу Лев XIV зробив питання безпеки комп’ютерних алгоритмів однією з найголовніших тем свого понтифікату.

Про серйозні побоювання релігійних лідерів щодо майбутнього планети пише Reuters.

Загроза для міжнародного миру

Понтифік визнає величезну користь інновацій для суспільства, але водночас вказує на появу безпрецедентних загроз для глобальної стабільності. Він закликав світових лідерів проявити мудрість у питанні жорсткого міжнародного контролю за надпотужними нейромережами.

«Трансформаційна сила штучного інтелекту може призвести до масштабних соціальних змін, які дуже важко передбачити», — розповів провідний радник Ватикану Паоло Бенанті.

Ще у своєму травневому зверненні Папа Лев наголошував на небезпеці поширення дезінформації та розпалювання нових конфліктів за допомогою алгоритмів. Дипломати Ватикану переконані, що жодна країна світу не здатна самостійно впоратися з цим технологічним викликом.

«Тут справді на кону стоїть майбутнє людства, тому нам потрібні спільні правила для управління цим явищем», — наголосив кардинал П’єтро Паролін.

Автономна зброя та наслідки

Особливе занепокоєння у представників церкви викликає стрімка розробка автономних систем озброєння, які вже активно використовуються на полі бою. Священнослужителі порівнюють сучасні бойові дрони зі штучним розумом із небезпечними мінами, які без розбору знищують будь-які цілі.

«Якщо ядерна зброя може фізично знищити людство, то маніпуляції з генеративним контентом здатні зруйнувати здатність людей залишатися єдиним суспільством», — пояснив Паоло Бенанті.

На відміну від ядерних боєголовок, які можна безпечно зберігати на складах та ретельно рахувати, комп’ютерні програми є абсолютно невидимими для контролю. Саме тому американські єпископи нещодавно створили спеціальну робочу групу для спільної протидії наявним загрозам від сучасних систем.

«Діалог зосереджений на шляхах збереження штучного інтелекту на службі людству та нагальній потребі подолання реальних небезпек», — йдеться в офіційній заяві духовенства.

Тривожні прогнози та реальні ризики

Прихильники теорій змов вважають, що стрімкий розвиток комп’ютерних систем був передбачений ще п’ять століть тому. Зокрема, відоме пророцтво французького астролога Нострадамуса про загадковий «самотній розум» дехто трактує як появу цілком незалежного машинного інтелекту.

«Розробники надпотужного штучного інтелекту просто грають нашими життями», — заявив колишній працівник компанії Anthropic Джейкоб Коксон після свого гучного звільнення.

Занепокоєння експертів не є безпідставним, адже нещодавно американська компанія Anthropic виявила спроби використання своєї нейромережі для розробки небезпечної біологічної зброї. Сучасну технологію також намагалися залучити для проведення масштабних кібершпигунських кампаній та створення шкідливого програмного забезпечення.

«Ту саму інформацію, яку можна використати для розроблення біологічної зброї, можна також застосувати для створення ліків», — зазначають представники компанії-розробника.