OpenAI, Anthropic и Google готовятся к созданию органа по регулированию ИИ

OpenAI, Anthropic и Google обсуждают создание нового органа, который будет заниматься стандартами в сфере искусственного интеллекта. Об этом во вторник сообщила OpenAI. Инициатива возникла на фоне растущих опасений относительно рисков ИИ и давления на отрасль с требованием усилить контроль за разработкой технологии, сообщает France 24.

Идею создания такого органа предложил руководитель Google DeepMind Демис Хассабис. В июле он призвал США создать структуру, которая будет проверять самые мощные модели ИИ перед их выходом на рынок.

По замыслу Хассабиса, новый орган будет финансироваться преимущественно самой отраслью. Это позволит привлечь высококвалифицированных специалистов и обеспечить необходимые вычислительные мощности для масштабного тестирования.

Предложенная модель будет напоминать работу Financial Industry Regulatory Authority (FINRA), саморегулируемой организации в США. Она контролирует брокеров и инвестиционные компании, финансируется самой отраслью, но работает под государственным надзором.

Единого мнения по поводу этой инициативы среди представителей отрасли нет. Руководитель канадской компании Cohere Эйден Гомес обвинил ведущие американские лаборатории ИИ в попытке создать «картель» под предлогом заботы о безопасности.

«ИИ нуждается в предохранительных механизмах, это не предмет спора и никогда им не было. Спор идет о том, кто их разрабатывает, кто участвует в процессе и чьи интересы защищают эти правила», — написал Гомес в своем блоге.

Обеспокоенность рисками ИИ усилилась в последние недели после увольнения двух сотрудников ведущих лабораторий.

На прошлой неделе компанию Anthropic покинул Джейкоб Коксон, ранее работавший также в OpenAI. Он заявил, что разработчики ИИ движутся к созданию систем, способных самостоятельно совершенствоваться.

«Они участвуют в гонке, ведущей прямо к самосовершенствующемуся суперинтеллекту, и играют нашими жизнями. Люди, создающие ИИ, искренне верят, что он может убить нас всех до конца десятилетия», — заявил Коксон.

Исследователь Anthropic Эван Хубингер подтвердил опасения Коксона. Он оценил вероятность глобальной катастрофы из-за ИИ в более чем 10% в течение следующего десятилетия.

В понедельник предупреждения коллег поддержал бывший исследователь Google DeepMind Билал Чугтай.

«Я искренне верю, что ИИ способен уничтожить нас всех, и что времени, чтобы избежать этого, может уже не остаться», — написал Чугтай в соцсетях.

В субботу генеральный директор Anthropic Дарио Амодеи призвал замедлить развитие ИИ. Его позицию поддержали руководитель OpenAI Сэм Альтман, Илон Маск и Демис Хассабис.

Президент США Дональд Трамп назвал предупреждения о рисках ИИ «мистификацией». Глава Nvidia Дженсен Хуанг также раскритиковал подобные прогнозы.

«Сочетание этих слов и прогнозов настораживает и вызывает беспокойство, этого не стоит делать. Это безответственно», — заявил Хуанг в понедельник на конференции в Лос-Анджелесе.

По его словам, мрачные прогнозы о возможном уничтожении человечества искусственным интеллектом «не имеют научного обоснования».

Впрочем, компании пытались решить эту проблему и собственными силами. Ведущие лаборатории создавали команды по безопасности, проводили внутренние тесты и разрабатывали критерии для оценки моделей. Исследования при этом показывали, что контроль за поведением моделей ИИ остается сложной задачей, особенно когда речь идет о системах, способных самостоятельно выполнять все более сложные задачи.

О том, как государство может заблокировать ИИ и почему для этого до сих пор нет четких правил, в статье «Государство может отключить искусственный интеллект. Почему блокировка новых моделей Claude — урок для Украины» рассказал заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права НАПрН Украины, доктор наук в области права Алексей Костенко.