США лідирують у ШІ-перегонах, але нехтують ризиками нової технології — WP

Питання безпеки штучного інтелекту необхідно розглядати як перегони з часом. Ніхто не знає, які небезпеки може принести ця технологія. Але до того часу, як США та Китай нарешті серйозно обговорять запобіжні заходи та правила регулювання, може бути вже запізно, щоб запобігти катастрофічній ситуації, пише в статті для WP оглядач Девід Ігнатіус.

Дві наддержави у сфері штучного інтелекту матимуть нагоду обговорити безпеку ШІ наступного місяця, коли президент США Дональд Трамп і лідер Китаю Сі Цзіньпін зустрінуться в Шеньчжені — це буде їхній третій саміт цього року. Російський диктатор Владімір Путін також може відвідати Шеньчжень, але його єдиним завданням має бути припинення катастрофи, яку він уже спричинив в Україні, зазначає оглядач.

Напередодні зустрічі в Шеньчжені Сполучені Штати не мають чіткої стратегії безпеки в галузі штучного інтелекту. Америка лідирує в ШІ-перегонах завдяки передовим компаніям Anthropic та OpenAI. Але США значно відстають від Китаю в питанні контролю над ШІ та обмеження шкоди нової технології, без сповільнення прогресу в її розвитку.

Дисциплінований підхід Китаю до штучного інтелекту, мабуть, можливий лише в умовах однопартійної командної економіки. Сі формулює чітку національну стратегію, а перший віцепрем’єр Держради Китаю Дін Сюесян координує реалізацію політики. Цього місяця Дін обговорив питання штучного інтелекту з провідними американськими радниками престижного Університету Цінхуа, зокрема з колишнім генеральним директором Apple Тімом Куком. Міністр державної безпеки Китаю Чень Ісінь опублікував детальне пояснення щодо загроз та можливостей ШІ для національної безпеки.

Здається, у Китаї не так багато песимістів щодо ШІ, як у США. Експерти китайського уряду турбуються про загрози для держави, а не для людства. Але вони дедалі частіше говорять про ризики ШІ.

Новий китайський підхід не полягає у протиставленні безпеки ШІ та розвитку нової технології, зазначає колишній аналітик уряду США з питань Китаю Пол Тріоло.

“Це спроба зробити безпеку сумісною, а часто й такою, що сприяє, швидкому розвитку дедалі потужніших систем, зберігаючи при цьому широкі повноваження втручатися, коли йдеться про політичні інтереси чи національну безпеку”, — додав він.

У США дебати щодо безпеки ШІ є значно хаотичнішими. Лідери у сфері ШІ — Даріо Амодей з Anthropic та Сем Альтман з OpenAI — закликають до уповільнення темпів розвитку штучного інтелекту, а також запровадження певного рівня державного нагляду та саморегулювання. 

Натомість Трамп говорить про ШІ так, ніби це глобальний бійцівський чемпіонат. Міністр фінансів США Скотт Бессент повторює позицію Трампа про те, що перемога в галузі ШІ є визначальною. Саме Бессент очолює американську сторону в діалозі з Китаєм щодо ШІ.

Підхід адміністрації Трампа до безпеки ШІ схожий на те, як вона вирішувала інші питання національної безпеки. Президент США робить агресивні гучні заяви, але реалізація політики на нижчих рівнях є хаотичною та нескоординованою, з мінімальним міжвідомчим супроводом. Державний механізм, який мав би діяти через Раду національної безпеки США, здається, не працює. Технологія, здатна змінити світ не менше, ніж ядерна зброя, розвивається без належного нагляду.

Кілька місяців тому здавалося, що Трамп розглядає можливість створення національного органу саморегулювання у сфері ШІ. Наприкінці вересня він зібрав керівників провідних технологічних компаній, щоб підписати добровільну декларацію про саморегулювання, яка містила мало конкретних деталей.

Здається, ключовим пріоритетом Трампа є домінування в галузі штучного інтелекту, а також перейменування цієї технології на “суперінтелект”. Цього місяця Трамп призначив директора Національної розвідки Джея Клейтона, який має незначний досвід у сфері ШІ, головою урядових “Сил суперінтелекту”. Все це було б комічним, якби не було таким небезпечним.

Китай усвідомлює сувору реальність: він перебуває в ШІ-перегонах і може програти.

Колишній експерт з питань Китаю в Раді національної безпеки США за президентства Джо Байдена Джуліан Гевіртц пояснив у недавній статті, що Пекін дедалі частіше розглядає ШІ як “технологію, в межах якої переможець забирає все, що може дозволити американській могутності зростати швидше, ніж конкуренти зможуть наздогнати США, роблячи цю перевагу постійною”.

Амодей у тріумфальний момент два роки тому погодився, що домінування США у сфері ШІ може створити “вічний 1991 рік”. Він заявив, що якщо Америка зможе виграти ці перегони, то демократії лідируватимуть на світовій арені та матимуть економічну й військову силу, щоб уникнути завоювання з боку автократій.

Зараз небезпеки стали очевиднішими як для очільника компанії Anthropic, так і для більшості інших експертів у галузі ШІ. Хоча швидкість розвитку технології має значення, не менш важливим є діалог про ризики.

Колишня чиновниця Агентства національної безпеки США Енн Нойбергер, яка займалася питаннями ШІ в адміністрації Байдена, сказала, що хоча укладення великої угоди з Китаєм щодо ШІ є малоймовірним, сторони могли б дійти згоди щодо вузьких рекомендацій з безпеки, щоб уникнути катастрофи, а також створити експертний канал для обговорення небезпечних інцидентів.

Бессент, імовірно, прагнув створити саме такий обмежений механізм діалогу, коли у вересні зустрівся в Нью-Йорку з віцепрем’єром Держради Китаю Хе Ліфеном. Але поки що невідомо, як саме США організують механізм, про який говорив Бессент. Такий механізм не буде базуватися в Міністерстві фінансів.

“Реальна мета для зустрічі в Шеньчжені — це не договір і навіть не повністю функціональна гаряча лінія, а узгоджений протокол, підкріплений реальними внутрішніми інститутами”, — вважає аналітик Тріоло. 

Коли йдеться про великі проблеми, часто найкраще починати з невеликих кроків. Так було з контролем над ядерною зброєю у 1960-х і 1970-х роках, і так може бути зараз зі штучним інтелектом. Але ядерна зброя не могла писати власні інструкції, на відміну від ШІ який, можливо, незабаром зможе це робити. Час спливає, зауважує оглядач.

Напередодні Bloomberg опублікувало дослідження, яке прогнозує, що Китай має всі шанси до 2030 року стати глобальним лідером у розробці великих мовних моделей, які лежать в основі технології штучного інтелекту. США та Китай рухаються до спільного технологічного лідерства в галузі ШІ до 2030 року, але жодна з країн, імовірно, не досягне загальної переваги. Американські компанії можуть зберегти незначну перевагу в розробці передових моделей ШІ, тоді як досвід Китаю в оптимізації програмного забезпечення гарантує Пекіну сильні позиції у впровадженні штучного інтелекту з меншими витратами, йдеться у звіті.

AP писало, щоСША та Китай формують власні ШІ-альянси, а інші країни намагаються скористатися перевагами обох таборів та уникнути програшу. CNN вважає, що Пекін можезалучити на свій бік більше країн у ШІ-перегонах, адже Китай пропонує відкритішу екосистему, орієнтовану на доступність та нижчу вартість. Однак чим потужнішими ставатимуть китайські моделі ШІ, тим менша ймовірність, що Пекін залишить їх без обмежень, вважають аналітики.

Олексій Костенко у статті“Цифрова імперія Пекіна: як Китай перетворює штучний інтелект на інструмент глобального впливу” розповідав, якКитай прив'язує країни до своєї екосистеми ШІ.