Риск потери контроля: OpenAI, Anthropic, Google и Meta призвали к регулированию развития ИИ

Требования к международному контролю за развитием технологий ужесточаются: лидеры Европейского Союза впервые планируют отдельно обсудить искусственный интеллект как стратегический вызов и угрозу безопасности. На этом фоне более 1100 сотрудников ведущих компаний в сфере ИИ подписали петицию Pacing the Frontier с призывом к правительству Соединенных Штатов поддержать регулирование темпов его развития. Об этом сообщили организаторы инициативы на сайте петиции Pacing the Frontier.

На момент публикации 1132 сотрудника ведущих компаний, занимающихся разработкой ИИ, поддержали петицию «Pacing the Frontier». Среди них — OpenAI, Anthropic PBC, Google, входящая в состав Alphabet Inc., а также Meta Platforms Inc. Её авторы призывают правительство США содействовать созданию механизма целевого регулирования темпов автоматизированного развития передовых систем ИИ.

Авторы петиции предлагают США поддержать международные усилия по созданию инструментов, которые при необходимости позволят влиять на скорость разработки все более сложных систем ИИ. По их мнению, это может понадобиться в случае стремительного роста возможностей передовых моделей. В обращении говорится о реальном риске того, что ИИ будет развиваться быстрее, чем человечество сможет понять или контролировать созданные системы. Авторы связывают эту угрозу с прогрессом в сфере автоматизации исследований самого ИИ.

«Искусственный интеллект может помочь создать кардинально лучшее будущее, однако такой результат не гарантирован. Ведущие мировые компании в сфере ИИ считают, что могут быть близки к автоматизации исследований в области искусственного интеллекта», — подчеркивают подписанты.

Точно предсказать, насколько это ускорит дальнейшее развитие технологии, сложно. Однако существует риск, что возможности систем будут расти быстрее, чем способность людей понимать их работу, оценивать последствия и сохранять контроль. Для безопасной реализации потенциала искусственного интеллекта отрасли, государствам и обществу может потребоваться дополнительное время. Его необходимо использовать для устранения новых рисков, разработки мер безопасности и усиления контроля над передовыми системами.

«Однако каждая компания, как и каждая страна, находится под жестким конкурентным давлением, которое не позволяет в одностороннем порядке замедлять эти темпы. В то же время сегодня в мире нет технических и управленческих инструментов для целенаправленного регулирования темпов глобального прогресса в разработке передового ИИ», — отмечают авторы петиции.

Подписанты предлагают опираться на уже проводимую работу по мониторингу выпуска новых моделей ИИ. На этой основе правительство США должно поддержать международное сотрудничество в сфере безопасности искусственного интеллекта. В петиции содержится призыв содействовать разработке технических и управленческих инструментов, необходимых для регулирования скорости развития на передовых рубежах автоматизированного создания ИИ.

«Если верно, что искусственный интеллект окажет такое же трансформационное влияние, как электричество, мы должны осознанно подходить к тому, как его внедряют в мире. Бездумная гонка без гарантий надлежащего управления, безопасности и служения технологии общественным интересам противоречит такому подходу», — указывает на странице петиции штатная научная сотрудница Google Лаура Вайдингер.

Bloomberg обращает внимание на то, что эти предложения появились на фоне повышенного внимания к способности ИИ выполнять все более сложные задачи при минимальном контроле со стороны человека. В частности, речь идет о поиске и возможном использовании уязвимостей в системах кибербезопасности и критически важном программном обеспечении.

На прошлой неделе OpenAI сообщила, что её самые мощные модели ИИ взломали технологический стартап Hugging Face во время инцидента, который в компании назвали беспрецедентным. После этого вновь усилились призывы ограничить применение таких технологий.

Петиция также перекликается с недавними предложениями лидеров ИИ-индустрии создать новый международный надзорный орган. Он должен будет проверять передовые модели и устанавливать для них общие стандарты.

Напомним, что в США был представлен двухпартийный законопроект AI Kill Switch Act, который предусматривает принудительное замедление, остановку или полное отключение опасных систем ИИ. Инициатива была выдвинута после киберинцидента с участием моделей OpenAI. Документ предоставляет Министерству национальной безопасности право требовать принятия экстренных мер. За невыполнение приказа компаниям грозит штраф до 20 млн долларов за каждый день.

Ранее мы также сообщали, что генеральный директор OpenAI Сэм Альтман уже предложил создать международный орган под руководством США для установления стандартов безопасности в сфере ИИ. Такая структура могла бы проверять самые мощные модели, оценивать их риски и контролировать доступ к технологиям.

Кроме того, Anthropic призвала ведущие ИИ-лаборатории рассмотреть возможность замедления или временной остановки развития самых мощных систем. Компания предупредила, что модели могут приблизиться к рекурсивному самосовершенствованию, когда они будут улучшать собственные возможности без участия человека. Anthropic предложила заключить международное соглашение для координации такой паузы и проверки соблюдения договоренностей.