Маск назвал срок, когда человечество потеряет контроль над искусственным интеллектом

Илон Маск считает, что уже через пять лет искусственный интеллект превзойдет суммарный интеллект всего человечества, а еще через несколько лет люди перестанут быть теми, кто принимает решения. Остановить этот процесс, по его словам, невозможно - и даже не нужно.

Как передает "Хвиля", об этом Маск рассказал в интервью главному редактору The Economist Зэнни Минтон Беддоуз.

"Я думаю, что ИИ может превзойти сумму человеческого интеллекта примерно за пять лет. Лет за пять - такое у меня предположение. Так что на самом деле не останется ничего, что ИИ не делал бы лучше людей, кроме разве что того, чтобы быть человеком", - сказал Маск.

Самым вероятным сценарием он называет не катастрофу, а резкий рост благосостояния.

"Самый вероятный исход - эпоха невероятного изобилия, где каждый может иметь все, что только способен вообразить. Это может звучать абсурдно, но вот мы в 2026 году. Посмотрим, где мы будем в 2036-м. Конечно, есть вещи, которые могут это сорвать, - например, масштабная глобальная термоядерная война", - добавил он.

На вопрос, действительно ли через 10 лет люди больше не будут контролировать ситуацию, Маск ответил, что считает это маловероятным - и объяснил свою мысль через сравнение с приматами.

"Если разница в интеллекте между ИИ и людьми будет намного больше, чем разница в интеллекте между людьми и шимпанзе, трудно представить, что шимпанзе будут главными. Мне очень жаль. Мы, по сути, эволюционировавшая форма шимпанзе. Не так давно мы качались на деревьях и ели бананы в джунглях - и бананы мы едим до сих пор", - заявил бизнесмен.

Ранее Маск оценивал вероятность того, что роботы уничтожат человечество, в 10-20%. Свою оценку он не изменил, но изменил отношение к ней.

"Я не вижу способа реально остановить этот невероятный импульс ИИ и роботов. И порой я думаю: пожалуй, даже если бы существовала кнопка остановки, нам не стоило бы ее нажимать. Потому что самый вероятный исход - невероятное изобилие для всех", - пояснил он.

Когда ведущая спросила, сел бы он в собственную ракету, зная о 10-20% шанса взрыва, Маск ответил утвердительно. А на упрек о слишком высоком уровне риска вспомнил физику.

"В долгосрочной перспективе мы все мертвы. Согласно стандартной модели физики, конец Вселенной - это длинный скучный серый суп постепенного остывания, тепловая смерть Вселенной. Так что если это и есть финал нашей реальности, то все на самом деле про путешествие, потому что пункт назначения ужасен", - сказал Маск.

Свою роль в ускорении технологии он признал открыто. По словам Маска, OpenAI создавался как противовес Google, который тогда фактически монополизировал направление, а уже из OpenAI отделилась команда Anthropic.

"Эти действия на самом деле привели к побочным эффектам, которые ускорили ИИ, что не было моим намерением. Так что просто кажется, что все дороги ведут к ускорению ИИ", - признал он.

Маск также рассказал, что советовался с Демисом Хассабисом перед публикацией его предложения о частно-государственном регуляторе. Собственный рецепт бизнесмена проще.

"Самое неотложное, что мы можем сделать, - это чтобы ведущие ИИ-компании хотя бы встречались или проводили какой-то созвон раз в несколько недель и просто обсуждали любые вопросы безопасности", - предложил он.

Конкуренция, по его мнению, здесь не мешает, а помогает.

"Человеку из правительства, у которого нет глубокого технического понимания и который не двигает передний край ИИ, довольно сложно понять, стоит ли что-то выпускать. А вот конкуренты, если дать им неделю-две на изучение новой модели, могут подсветить проблемы. У всех конкурентов есть стимул держать друг друга честными, и они не постесняются сказать, что выпуск модели соперника стоит отложить", - сказал Маск.

Отдельно ведущая спросила, возможно ли такое сотрудничество между людьми, которые публично оскорбляют друг друга. Маск подтвердил, что не скрывает своего отношения к руководителю OpenAI.

"Я не фанат Сэма Альтмана. Потому что если ты основал некоммерческую организацию, которая должна была быть опенсорсной ИИ-компанией, принадлежащей миру, а она каким-то образом превратилась в коммерческую компанию стоимостью 800 миллиардов долларов с закрытым кодом, то ты скажешь: постойте, это же полная противоположность тому, на что я жертвовал деньги", - заявил он.

О команде Anthropic он высказался иначе.

"Я думаю, Дарио - очень принципиальный человек. Он о многом заботится, заботится о будущем мира. И все, кого я до сих пор встречал в Anthropic, - никто не включил мой детектор зла. Они всегда кажутся благонамеренными. А дорога в ад, полагаю, в основном вымощена плохими намерениями. Так что расслабляться не стоит. Но в конце концов, если нам нужно поговорить - мы поговорим", - подытожил Маск.

Ранее "Хвиля" рассказывала, почему человечество не готово к взрыву искусственного интеллекта. Также мы писали о том, когда ИИ начнет улучшать сам себя, а сооснователь Anthropic Джек Кларк предупреждал, что ИИ-революция может стать в 10 раз масштабнее промышленной.