"Способен уничтожить всех нас": специалист уволился из Google DeepMind из-за страха перед ИИ

В компании Google Чугтай собственными глазами наблюдал за тем, в каком направлении развивается ИИ, и пришел к выводу, что у него достаточно высокий потенциал для того, чтобы поквитаться с человечеством. Об этом бывший эксперт Google DeepMind рассказал на своей странице в сети X.

"В Google я собственными глазами наблюдал за развитием ИИ. Я также чрезвычайно обеспокоен тем, в каком направлении по умолчанию развивается эта технология. Я искренне верю, что ИИ способен уничтожить нас всех, и что у нас, возможно, остается все меньше времени, чтобы избежать такого исхода".

Быстрые темпы развития ИИ

Эксперт рассказал, что в последние годы темпы развития ИИ были "ошеломляющими". Когда Чугтай только приступил к работе над искусственным интеллектом, он мало что мог сделать. Однако теперь, всего через четыре года, рои ИИ-агентов OpenAI с легкостью решают сверхсложные математические задачи и все чаще выходят из-под контроля.

Сейчас ситуация только становится еще более напряженной. Чугтай предполагает, что компании, занимающиеся ИИ, в ближайшие несколько лет смогут создать сверхразумные системы, которые значительно превзойдут человеческие способности во всех сферах. При этом неизвестно, будут ли они подчиняться и выполнять требования людей.

"Я не уверен, что эти системы ИИ будут делать то, чего мы хотим. В частности, сверхразумные системы с неправильной настройкой могут, подобно сбежавшим агентам ИИ, причастным к инциденту с HuggingFace, выйти из-под нашего контроля и совершить опасные действия, которые могут привести к окончательной потере человечеством контроля над ситуацией или к гибели человечества".

Самая важная проблема человечества

Несмотря на выраженную обеспокоенность, эксперт в заключение также добавил, что оптимистично настроен в отношении возможности безопасного использования ИИ. Однако для этого необходимо координировать свои действия, чтобы компании, занимающиеся разработкой ИИ, регулировали его до такого уровня, при котором человечество смогло бы с ним справиться.

В более широком смысле необходимо, чтобы все больше людей всерьез задумывались о проблеме безопасного развития ИИ. Чугтай считает, что это ключевая проблема, с которой столкнулись люди в этом столетии.

Стоит напомнить, что это не первый случай, когда специалисты уходят из компаний из-за опасений по поводу ИИ. Так, недавно исследователь из Anthropic Джейкоб Коксон предупреждал, что эта угроза касается будущих автономных систем.