Генеральний директор Anthropic окреслює план уповільнення розвитку штучного інтелекту

Ми бачимо дедалі гнітючіші попередження від дослідників штучного інтелекту про небезпеку штучного інтелекту, і навіть коментарі генерального директора OpenAI Сема Альтмана про те, що, можливо, настав час «прискорити» розвиток ШІ. Але як це виглядатиме насправді?

У новій публікації в блозі генеральний директор Anthropic Даріо Амодей не лише повторив заклик «виходити на новий рівень», але й окреслив три широкі стратегії для цього. І він сказав, що Anthropic «односторонньо зобов’язується» дотримуватися однієї з них, а Альтман підтримав його приклад, сказавши, що OpenAI наслідуватиме цей приклад.

Дебати щодо безпеки та узгодженості ШІ загострилися цього тижня після того, як дослідник Джейкоб Коксон написав, що він йде з Anthropic через побоювання, що провідні компанії, що займаються ШІ, «грають нашими життями», тоді як люди, які створюють цю технологію, «щиро вірять, що вона може вбити нас усіх до кінця десятиліття», – твердження, яке повторили й інші співробітники Anthropic .

У дописі Амодея прямо не згадувалася відставка Коксона чи його занепокоєння, але генеральний директор написав, що дві речі переконали його, що настав час зайняти більш обережний підхід до розробки ШІ: злом OpenAI-HuggingFace та той факт, що «ШІ розвивається значно швидше» в останні місяці, особливо завдяки «зростаючій здатності створювати ШІ наступного покоління».

«Ми повинні уповільнити темпи вдосконалення можливостей моделей штучного інтелекту», – писав Амодей. «Прогрес все ще здаватиметься швидким, і ми повинні розумно використовувати виграний час».

Інші керівники компаній зі штучного інтелекту, схоже, позитивно відреагували на пост Амодея, а Альтман написав : «Я погоджуюся з Даріо, що нам потрібно виходити на новий рівень. Це була головна тема обговорень, які ми мали в OpenAI протягом останніх тижнів». А генеральний директор SpaceX Ілон Маск написав : «Даріо має рацію».

Запропонований Amodei перший крок передбачатиме залучення «вбудованих оцінювачів» зі сторонніх організацій, таких як METR — оцінювачів, які можуть перевірити, чи компанії, що займаються штучним інтелектом, дійсно дотримуються своїх зобов’язань щодо темпів розвитку та безпеки, а також можуть забезпечити повідомлення про інциденти безпеки. (OpenAI нещодавно критикували за те, що він не повідомив про інцидент, коли його агенти ШІ захопили німецький вікі-форум .) 

Альтман також сказав, що це «гарна ідея», і додав, що OpenAI зробить те саме: «Незабаром у нас буде більше інформації».

Далі Амодей закликав провідні компанії зі штучного інтелекту «в демократичних країнах» узгодити «спільні стандарти безпеки, а також обмеження темпів неконтрольованого прогресу штучного інтелекту». 

Така координація може здатися малоймовірною, оскільки, як повідомляється, ці компанії стурбовані тим, що скоординована пауза може призвести до перевірки з боку антимонопольного органу . Амодей натякнув на це занепокоєння у своїй публікації, написавши, що «з антимонопольних міркувань уряду США корисно посередничати або принаймні сприяти проведенню цих обговорень — їм не потрібно брати участь, але потрібно видати обмежений дозвіл на певні види розмов щодо безпеки».

Амодей також визнав привид домінування Китаю в галузі штучного інтелекту , який часто викликає аргументи проти уповільнення розвитку. Але він сказав, що якщо уряд США та технологічні компанії вживуть таких заходів, як відмова продавати потужні чіпи або обладнання для виробництва напівпровідників китайським компаніям, а також придушення моделювання дистиляції , вони можуть «уповільнити прогрес Китаю настільки, що значно розширить відрив Америки протягом наступних 3–5 років».

Зрештою, Амодей закликав до «глобальної координації», коли Сполучені Штати та їхні союзники «намагатимуться координувати дії з авторитарними урядами, наскільки це можливо». Амодей сказав, що це означатиме «співпрацю з Китаєм», і визнав, що існують «суттєві обмеження щодо того, чого можна досягти», але все ж припустив, що можуть бути можливості для угоди, навіть якщо це просто «заборона певних вузьких та очевидно небезпечних застосувань ШІ, таких як використання ШІ для виробництва біологічної зброї або дозвіл користувачам робити це».

З огляду на те, що Амодей у ​​минулому визнавав потенційні небезпеки штучного інтелекту, а також на відносну відкритість компанії до певних форм регулювання, деякі прихильники ШІ вже розкритикували його як руйнівника, чиї коментарі підживили нинішню негативну реакцію на ШІ. У відповідь Амодей сказав, що намагався запропонувати «збалансовану» перспективу та стверджував, що негативна реакція є «фундаментально кризою довіри», оскільки люди стали скептично ставитися до технологічних компаній, технологічної індустрії та уряду.

Галузеві критики також скептично ставляться до цих апокаліптичних попереджень про ШІ, припускаючи, що вони відволікають увагу від шкоди, яку ця технологія вже завдає .

Наприклад, журналіст Браян Мерчант написав, що він ще не бачив «достовірної, покрокової документації того, як саме ШІ може перейти від саморекурсивного вдосконалення ШІ до вбивства кожної людини на планеті»; він також припустив, що пропозиції, подібні до пропозиції Амодея, «ймовірно, зрештою послужать лише Anthropic та OpenAI; саме так виглядає регуляторне захоплення в дії».

У своїй новій публікації Амодей написав, що він продовжує «вірити, що штучний інтелект може надзвичайно покращити якість людського життя».

«Моє бажання досягти цих переваг незгасаюче», – сказав він. «Але переваги будуть досягнуті лише тоді, коли ми створимо технологію правильно, і – доки ми добре використовуємо виграний час – варто докласти надзвичайно ретельних зусиль, щоб зробити це правильно».