Не сповільнювати, а сертифікувати: експерт із безпеки запропонував нові правила для ринку ШІ

Президент Міжнародної асоціації безпечного та етичного штучного інтелекту Стюарт Рассел розкритикував ідею поступового уповільнення розвитку ШІ, яку запропонував генеральний директор компанії Anthropic Даріо Амодей. На думку Рассела, прогрес не можна просто сповільнити, щоб виграти час для досліджень безпеки. Натомість нові системи мають проходити перевірку й отримувати підтвердження безпечності ще до їхнього запуску, йдеться в матеріалі The Guardian.

Дискусія розгорнулася на тлі кількох гучних подій у сфері ШІ. Серед них — звільнення дослідника безпеки ШІ Джейкоба Коксона з Anthropic, створення підпільної мережі для координації та обхід обмежень ШІ-агентами OpenAI, а також публікація листа Амодея We Must Pace the Frontier, який підтримали генеральний директор OpenAI Сем Альтман, засновник xAI Ілон Маск, керівник Google DeepMind Деміс Гассабіс і генеральний директор Microsoft Сатья Наделла.

Що пропонує Даріо Амодей

У своєму листі Амодей запропонував концепцію pace the frontier — «регулювання темпу на передовій». Вона спирається на аналогію з «Формулою-1», де під час небезпечних умов на трасу виїжджає автомобіль безпеки, який змушує всіх учасників знизити швидкість, але не припиняти гонку.

«Зауважмо: регулювання темпу не означає зупинку навчання моделей чи технічного прогресу», — написав Амодей.

Гендиректор Anthropic пояснює свою позицію тим, що ШІ розвивається надзвичайно швидко. В майбутньому, на його думку, це буде пришвидшуватися завдяки рекурсивному самовдосконаленню, коли системи допомагатимуть прискорювати власний розвиток.

План Амодея складається з трьох частин. Він пропонує розмістити незалежних оцінювачів безпеки безпосередньо в компаніях-розробниках, запровадити спільні стандарти для провідних компаній із демократичних країн з можливим державним регулюванням та спробувати залучити авторитарні держави до ширшої міжнародної угоди.

Чому Рассел не погоджується

Рассел вважає, що сама метафора з автомобілем безпеки є хибною. На його думку, вимоги до безпеки не можуть бути предметом компромісу чи залежати від того, скільки часу розробники отримають завдяки уповільненню прогресу.

«Новий літак можна вводити в експлуатацію лише тоді, коли він пройде всі випробування, а уряд видасть сертифікат льотної придатності. Якщо на це піде понад рік — нехай так і буде», — зазначив Рассел.

Експерт порівняв інший підхід із ситуацією, коли Boeing випускав би новий літак щороку лише зі сподіванням, що часу вистачить на завершення випробувань.

Сертифікація замість «уповільнення»

Попри критику, Рассел зазначає, що уважніше читання листа Амодея показує певний збіг позицій. Зокрема, генеральний директор Anthropic пише, що правила мають працювати за принципом: якщо модель отримує певний рівень можливостей, вона повинна мати сертифікати відповідності визначеним критеріям безпеки.

На думку Рассела, це фактично відповідає давно обговорюваному підходу «червоних ліній», коли розробники зобов'язані довести безпечність системи до її використання.

Ризик втрати контролю

Особливе занепокоєння Рассела викликає рекурсивне самовдосконалення, яке може призвести до створення суперінтелектуальних систем. Він вважає, що ризик втрати контролю над такими системами має бути надзвичайно низьким — приблизно один випадок на 100 мільйонів на рік, а не один до десяти чи один до п'яти, як, за його словами, оцінюють деякі керівники компаній, що працюють зі ШІ.

На завершення Рассел стверджує, що людство має право зупинити розвиток технології, якщо вона стане неприйнятно небезпечною, навіть попри трильйони доларів уже вкладених інвестицій. Він вважає, що нинішня увага до ризиків ШІ, підтримка теми з боку керівників провідних технологічних компаній і майбутні міжнародні переговори створюють шанс переглянути підхід до розвитку цієї технології.

Водночас президент США Дональд Трамп виступив проти посилення державного регулювання ШІ, назвавши побоювання щодо катастрофічних ризиків і знищення людства «фейком». Американський лідер заявив, що масштабний розвиток ШІ та розширення мережі дата-центрів є «нафтою наступних десятиліть», а будь-які законодавчі обмеження лише послаблять США та зіграють на користь Китаю в технологічній гонці.