«Крестный отец ИИ» оценил риск уничтожения человечества в 10 %

Лауреат Нобелевской премии по физике, когнитивный психолог и информатик Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта», заявил, что оценивает вероятность уничтожения человечества из-за ИИ примерно в 10%, хотя признает, что точно рассчитать такой риск невозможно. В интервью BBC Newsnight он также призвал мировых лидеров активнее регулировать развитие ИИ, поскольку, по его мнению, времени на подготовку остаётся всё меньше.

«10% кажутся мне вполне обоснованной оценкой, хотя на самом деле никто не знает, как определить это точно», — заявил Гинтон.

Почему Гинтон считает риск реальным

Учёный объяснил, что человечество впервые создаёт системы, которые в скором времени могут превзойти людей по уровню интеллекта. Именно поэтому, по его словам, невозможно опираться на предыдущий опыт, чтобы точно предсказать последствия.

Гинтон считает, что суперинтеллекту не обязательно действовать в физическом мире, чтобы вызвать катастрофу. Он может создавать хаос посредством общения с людьми, организовывать масштабные кибератаки или разрабатывать опасные биологические и компьютерные вирусы. С этим мнением соглашается и футуролог Юваль Ной Харари, который ранее заявил, что ИИ способен получить контроль над человечеством через постепенное подчинение бюрократических институтов, информационных потоков и принятие решений без участия человека.

«Мы должны выяснить, как создать его так, чтобы оно этого не захотело», — подчеркнул Гинтон.

По словам учёного, его собственные оценки времени до появления потенциально опасного суперинтеллекта постоянно сокращались. Если раньше он говорил о 30–50 годах, затем о 10–20 годах, то теперь предполагает, что может остаться примерно десять лет или даже меньше.

ИИ-гонка

Гинтон считает, что разработчики ИИ должны одновременно делать системы умнее и работать над минимизацией уже известных рисков. Однако, по его мнению, крупные технологические компании сегодня прежде всего соревнуются за создание всё более мощных моделей, поскольку именно это приносит краткосрочную прибыль. На этом настаивает большинство исследователей ИИ, в частности Тристан Харрис, который призвал остановить неконтролируемую гонку ИИ, ведь корпорации присваивают прибыль, а риски перекладывают на общество.

В то же время Гинтон подчеркнул, что развитие ИИ вряд ли можно просто остановить. В отличие от ядерного оружия, эта технология имеет огромную практическую пользу — от здравоохранения и образования до разработки новых лекарств, а чат-боты уже сейчас являются полезными инструментами в повседневной жизни.

Мировые лидеры должны действовать быстрее

Главным решением Гинтон называет регулирование, но подчеркивает, что универсального рецепта не существует. По его словам, разные риски требуют разных механизмов контроля, а международное сотрудничество возможно прежде всего в тех вопросах, где интересы всех государств совпадают.

Учёный привёл пример холодной войны, когда США и СССР сотрудничали, чтобы предотвратить ядерную катастрофу. По его мнению, подобная логика должна сработать и в отношении риска потери человечеством контроля над ИИ.

Комментарии Гинтона прозвучали вскоре после публичного объявления об увольнении исследователя Anthropic Джейкоба Коксона из-за опасений, что неконтролируемая гонка по созданию самосовершенствующихся ИИ-систем несет угрозу вымирания человечества. Позицию Коксона поддержали и другие инсайдеры отрасли, в частности исследователь Anthropic Эван Гюбингер, который оценил вероятность уничтожения человечества искусственным интеллектом в течение ближайшего десятилетия более чем в 10%.