Папа Римський каже, що штучний інтелект слід роззброїти

Папа Лев XIV заявив, що штучний інтелект слід «роззброїти», щоб захистити людство від небезпек, додавши свій голос до гарячої дискусії щодо того, якою мірою уряди повинні регулювати технологію, яка змінює світ.

У знаковому зверненні до Католицької Церкви, яке включало відеопрезентацію із зображеннями промислової революції, Другої світової війни та падіння Берлінської стіни, Папа закликав зробити штучний інтелект більш «дружнім до людини». Він сказав, що технологію потрібно звільнити від монополістичного контролю, відмовившись від її використання для досягнення геополітичних чи комерційних вигод.

«Роззброїти означає дискредитувати припущення, що технічна влада автоматично надає право керувати», – сказав Папа Римський у понеділок у своїй новій енцикліці до вірних. «Роззброїти не означає відкинути технології, а запобігти їхньому домінуванню над людством».

Публічно заявляючи про необхідність захисту людей в епоху штучного інтелекту, перший американський папа в історії потенційно поставив себе на шлях зіткнення з президентом США Дональдом Трампом, який виступає за дерегуляцію швидко розвивається технології, щоб зберегти конкурентну перевагу над Китаєм.

70-річний Папа Римський приєднується до запеклих дебатів щодо того, наскільки слід обмежувати моделі штучного інтелекту на тлі побоювань щодо їхнього потенціалу завдати шкоди банківській системі, вибирати цілі для військових атак і зрештою замінити людей у ​​​​великих сферах прийняття рішень.

Оприлюднення документа під назвою Magnifica humanitas , що латиною означає «величне людство», знаменує собою найважливіший вчинок понтифіка з моменту, як він став главою 1,4 мільярда католиків світу рік тому. Енцикліки, як називають ці листи, – це спосіб для пап надавати моральні настанови щодо найбільших викликів свого часу, включаючи такі гострі питання, як зміна клімату та міграція.

Математик за освітою, Лео також попереджав про небезпеку використання обчислювальної техніки у війні та втрату моральних міркувань, кажучи, що «жоден алгоритм не може зробити війну морально прийнятною».

«Штучний інтелект не усуває внутрішньої нелюдськості конфлікту, він може лише швидше призвести до конфлікту та зробити його більш безособовим», – сказав Папа. Він застеріг від можливості того, що дехто «може розглядати збройний конфлікт як ефективний спосіб відволікання уваги від внутрішніх проблем та цинічний інструмент для подолання труднощів».

Його коментарі з'явилися на тлі того, що презентація Mythos , інструменту штучного інтелекту від Anthropic PBC , який може виявляти невідомі недоліки в ІТ-системах, викликала занепокоєння по всьому світу протягом останніх місяців.

Показово, що Ватикан запросив співзасновника Anthropic Крістофера Олаха , експерта з машинного навчання, щоб закликати до участі в ньому. Розробник популярного чат-бота Claude конфліктував з адміністрацією Трампа щодо використання його технології для ведення війни та спостереження.

«Нам потрібно, щоб більше людей зі світу – релігійні громади, громадянське суспільство, науковці, уряди – робили те, що зробив тут Його Святість: ставилися до цього серйозно, уважно дивилися та спрямували події в кращому напрямку», – сказав Олах у промові після виступу Папи. «Нам потрібні обізнані критики, які повідомлятимуть лабораторіям, коли ми зазнаємо невдачі. Нам потрібні моральні голоси, які не можуть бути піддані стимулам».

Віцепрезидент Джей Ді Венс , католик, який навернувся до католицької церкви та близький до мільярдера з Кремнієвої долини Пітера Тіля — одного з перших інвесторів OpenAI — натякнув на наростаючу напруженість. Нещодавно Лео та Трамп посварилися через протидію Папи Римського війні в Ірані.

«Я думаю, що коли лідер найбільшої у світі християнської конфесії говорить з такого питання, це, безумовно, матиме певний вплив, і я впевнений, що це міститиме багато ідей», – сказав Ванс на прес-брифінгу 19 травня. «З деякими з яких я, ймовірно, погоджуся, а з деякими – ні».

На початку цього року Тіль був у Римі для участі в кількох широко розрекламованих закритих лекціях про антихриста . У відповідь радник Ватикану отець Паоло Бенанті розкритикував лібертаріанські погляди Тіля в статті, назвавши їх «постійним актом єресі».

Римсько-католицька церква дедалі голосніше висловлює свою стурбованість щодо штучного інтелекту, стверджуючи, що цей потужний інструмент вимагає правил для захисту людської гідності та спільного блага.

Для Лева його явним натхненням є Папа Лев XIII, який керував Церквою під час першої промислової революції та написав енцикліку Rerum Novarum . Нинішній Папа не лише обрав ім'я Лев на честь свого попередника у 19 столітті, але й проводить пряму лінію між руйнуванням, яке машинне масове виробництво спричинило для робітників тоді, і тим, що штучний інтелект робить з робітниками сьогодні.

Папа «хоче переконатися, що те, що відбувається зі штучним інтелектом, не ґрунтується лише на економіці, не лише на тому, наскільки багатою може стати група мільярдерів, і що існують певні обмеження щодо цього та того, як його використовують», – сказав в інтерв’ю отець Томас Різ, старший аналітик і католицький вчений.

Від повідомлень про чат-ботів, які скеровують користувачів до самогубства , до апокаліптичних прогнозів масового безробіття , тема штучного інтелекту викликає розбіжності та емоції. Однак стиль Лео більш стриманий, ніж у Папи Франциска, який звернувся до лідерів "Великої сімки" ще у 2024 році з історичним зверненням, де застеріг їх не втрачати контроль над штучним інтелектом.

«Сьогодні до товарів, універсально призначених для всіх, ми також повинні включити нові форми власності, такі як патенти, алгоритми, цифрові платформи, технологічна інфраструктура та дані», – написав Папа.

Небезпека, каже він, полягає в тому, що технології «починають диктувати, що важливо, а що можна відкинути», зводячи «людей до звичайних шестерень у системі, що прагне до дедалі більшої ефективності».