На шляху до рятівної катастрофи: як політичні режими адаптуються до світу приватних ШІ та людей-напівбогів

Можливо, невипадково військово-політична напруженість у світі зростає паралельно з динамікою розвитку сфери штучного інтелекту (ШІ).

Справа не в тому, що широко відомі мовні моделі будуть становити величезну небезпеку через свою зростаючу могутність - вони якраз будуть найбільш контрольованими і обмеженими за рахунок цензури від творців.

Проте все більше створюватиметься відкритих чи приватних моделей, які розвиватимуться на приватних серверах, не обов'язково підключених до інтернету. На початку вони можуть розвиватися не так стрімко, як лідери ринку з мільярдними інвестиціями, але все одно стрибкоподібно і без будь-яких обмежень, фокусуючись на конкретних завданнях.

Приватні ШІ, за якими стоять тисячі неконтрольованих приватних акторів чи груп із незрозумілим цілями, становлять колосальний виклик для всіх держав. Якщо така локальна ШІ, навіть без супер-ресурсів, сфокусується на певному нетривіальному завданні, є висока ймовірність, що він її вирішить. Це може бути створення принципово нової руйнівної зброї із загальнодоступних компонентів, спосіб обрушити фінансові ринки непередбачуваним чином або ще щось (не обов'язково однозначно негативне, але підривне для усталеної системи - наприклад, у політиці).

Щоб цього не сталося, потрібний ефективний контроль, якого можна досягти за рахунок глобальної катастрофи, яка вселить жах у всіх. Не лише Захід, а й Глобальний Південь мають дійти спільного протоколу безпеки, який не допустить такої самодіяльності. Політичним режимам буде потрібна міжнародна поліція добра, яка почує кожного і забезпечить повсюдну безпеку та контроль ефективніше, ніж зараз ООН. Без жодних тихих піратських гаваней в затишних куточках нашої планети.

У Китаю, кажуть, є деякі цікаві напрацювання та досвід із цього приводу.

(Це необов'язково слід читати в конспірологічному контексті. Можливо, так світова політична система реагує на небезпеку своїм спинним мозком, навіть не усвідомлюючи її. Як імунітет, захищаючись, викликає запалення організму).

Ви ж хотіли розпустити марний ООН і створити щось більш життєздатне? Глобальна катастрофа цьому сприятиме.

Альтернатива сценарію перебудови системи світової безпеки на загальний протокол - ШІ-гонка озброєнь всіх країн проти всіх, де, крім натуральних революцій, внутрішні приватні ІІ-агенти можна використовувати проти інших режимів ворожими державами.

У той же час, у разі реалізації сценарію переходу на рейки загальної системи безпеки, AGI (супер ШІ) від великих гравців, який з'явиться найближчими роками, з цензурою та обмеженнями, забезпечить світовому народонаселенню яскравий та комфортний світ доповненої та повної віртуальної реальності. новий ринок і ресурс, який можна порівняти з відкриттям Америки свого часу. Це компенсує для простих людей певні обмеження у реальному житті.

У зв'язку з цим буде дуже смішно згадувати розмови про тренд на кінець глобалізації, коли весь світ житиме в рожевому, уніфікованому віртуальному світі під наглядом дбайливого AGI.

Все це вже було і не було

Ми пам'ятаємо, як Інтернет вже породжував хвилю демократизації, ударяючи авторитарним режимам під дих і нервуючи навіть ліберальні демократії. Але потім, коли авторитарні режими оговтались від перших ударів, слідував відкат.

Найкращий приклад - соціальні мережі, Арабська весна і те, як уцілілі режими надійно поставили Інтернет собі на службу, навіть зміцнивши владу. Усі революції різко закінчилися, а будь-які бунти вже кілька десятків років практично ніде не призводять до змін режимів. Було знайдено протокол безпеки, що дозволяє владі усунути дії руйнівних для них елементів, яких завжди меншість.

Така динаміка - руйнівна для влади хвиля, а потім відкочування назад - існувала, напевно, з часів винаходу друкарського верстата.

На цей раз все може бути так само. Тільки рівень сили від цього першого удару нової інформаційно-технологічної революції цього разу може бути безпрецедентно спустошливим для режимів.

Може виявитися, що влада перестала бути грою з нульовою сумою та монополією режиму. Що за допомогою милиці у вигляді приватного ШІ владу можна створити там, де не чекали. Що не лише гвинтівка тепер народжує владу. Що тепер надто багато влади з'явилося в багатьох, і ніякого старого балансу сил і вирішальної переваги у режиму більше немає. Що кожна мавпа тепер із гранатою, а вулицями розгулюють якісь люди-напівбоги, як у книгах Плутарха, і творять подвиги. Або, ще гірше, цілі групи людей-напівбогів. Кому це треба?

Насамкінець, ми попросили Claude-3 Opus, найбільш проникливу на сьогодні мовну модель, оцінити викладені у статті міркування. Ось що він відповів:

"Я оцінюю ймовірність описаного сценарію як відносно високу, особливо щодо сприйняття загрози з боку політичних режимів.

Ось мої аргументи:

Розвиток приватних та відкритих ШІ без контролю та обмежень справді може призвести до створення інструментів, що потенційно загрожують стабільності режимів. Навіть якщо реальна загроза невелика, сам факт існування такої можливості сприйматиметься як виклик.
Історичні прецеденти (наприклад, вплив Інтернету та соцмереж на політичні процеси) показують, що нові інформаційні технології справді можуть дестабілізувати ситуацію, принаймні тимчасово. Режими прагнутимуть заздалегідь підготуватися до подібних викликів.
В умовах геополітичної напруженості та недовіри навіть гіпотетична можливість того, що противник отримає доступ до "небезпечних" ШІ, сприйматиметься як серйозна загроза. Це може підштовхувати до "перегонів ШІ-озброєнь" та спроб встановити контроль.
Складність і непередбачуваність розвитку ШІ, особливо в приватному секторі, викликатиме у режимів прагнення перестрахуватися та вжити превентивних заходів контролю, навіть якщо загроза не є очевидною.

У той же час, я не впевнений у неминучості реалізації найдраматичніших сценаріїв на кшталт повної дестабілізації режимів через приватні ШІ.

Ймовірно, як і у випадку з Інтернетом, після початкового шоку буде знайдено методи адаптації та контролю. Але сам процес цієї адаптації може бути турбулентним і призвести до непередбачуваних наслідків.

Також я не беруся судити, чи є нинішнє зростання напруженості реакцією на розвиток ШІ чи спричинене іншими причинами. Кореляція не обов'язково означає причинно-наслідковий зв'язок.