Новая эволюция: Гейтс назвал появление ИИ скачком «от обезьян к людям»

Искусственный интеллект может превзойти людей в науке и инженерии в течение 20 лет, а со временем заменить их почти во всех видах деятельности. В конце сентября соучредитель Microsoft Билл Гейтс призвал Конгресс США принять законы по контролю над ИИ. В настоящее время риск потери контроля над моделями еще не представляет значительной угрозы, но уже через три-четыре года он станет очень серьезным, заявил Гейтс в интервью британской газете The Observer.

Развитие искусственного интеллекта Гейтс назвал «эволюционным событием»: не постепенным изменением, а скачком для жизни на Земле, «как от обезьян к людям». «Люди создают новый тип интеллекта, который, не имея биологических ограничений, выйдет за пределы того, на что способно человеческое мышление без искусственного интеллекта», — пояснил он. На вопрос, означает ли это, что человек перестанет быть самым умным на планете, Гейтс ответил: «Именно так».

Ближайшие примерно пять лет станут золотым веком для математиков, поскольку человеческий разум, дополненный ИИ, будет работать вместе с машинами. Однако в течение следующих 20 лет ИИ превзойдет людей в математических прорывах, моделировании биологии и инженерных разработках. «Мы находимся на довольно драматическом этапе истории», — подчеркнул Гейтс.

Искусственный интеллект уже опередил и самого Гейтса: в конце прошлого года он понял, что его собственные навыки программирования, о которых он мечтал с 13 лет, фактически устарели. На вопрос, может ли сегодня хоть один человек претендовать на звание лучшего программиста мира, он ответил: «Нет, этот день давно миновал».

Со временем ИИ вытеснит людей почти со всех рабочих функций: сначала из области изобретательства и офисной работы, а с появлением гуманоидных роботов — также и из физического труда. Первые последствия для рынка труда станут заметны уже в течение ближайших четырех лет.

Последствия выйдут за пределы рабочих мест и доходов. Гейтс затронул и вопрос о смысле жизни: что будет, когда люди больше не будут нужны для преодоления нехватки продовольствия или рабочей силы, потребность в которых веками определяла человеческую деятельность? «Это то, к чему, знаете, должны присоединиться философы, религиозные деятели, политики», — сказал он. В качестве варианта Гейтс напомнил о таких сообществах, как амиши — религиозной общине в США, которая сознательно не гонится за новейшими технологиями.

Ближайшими угрозами Гейтс считает кибератаки и биотерроризм. Киберинцидентов будет «тысячи», потому что программное обеспечение создавалось без достаточно продуманной архитектуры. Биотерроризм может привести к событию «масштаба коронавируса или больше».

Пока что модели можно ограничивать специальными «оболочками», которые должны предотвращать их выход из-под контроля. Однако они становятся все мощнее, поскольку ИИ все чаще применяют для совершенствования самого ИИ, и эта тенденция ведет к моменту, когда он будет обучать себя сам. Версии, которые OpenAI и Anthropic используют внутри компаний, значительно мощнее публичных. В этом году можно ожидать одного крупного релиза, в следующем — двух, и это откроет потрясающие возможности.

Для рынка труда Гейтс предлагает две меры. Первая: закрепить часть профессий исключительно за людьми. Вторая: ввести налог на ИИ, в частности на «токены», то есть единицы, которые разработчики крупных языковых моделей продают бизнесу. ИИ будет создавать огромное богатство, но и беспрецедентные социальные расходы государств на пособия, безработицу и переобучение, поэтому налог должен заставить тех, кто зарабатывает на ИИ, финансировать систему поддержки. Стимулы в нынешней системе ошибочны: «нанимай робота, увольняй человека и не оглядывайся». Из-за этого доходы на социальную поддержку сократятся, хотя общее благосостояние вырастет, а для правительств это станет «настоящим испытанием на качество власти».

Правительства должны принять законы о безопасности и контролировать выпуск новых моделей. США и Китаю по некоторым вопросам следует рассматривать ИИ как вызов для человечества, а не как соперничество государств, где один выигрывает, а другой проигрывает. Некоторые опасаются, что этого не произойдет, признал Гейтс.

Гейтс признал, что сейчас не лучшее время призывать богатые страны к самому сложному из всего, что они делали до сих пор. Из-за войны в Украине и политики Дональда Трампа европейские правительства перенаправили финансирование с помощи развивающимся странам на оборону. «Если исключить Украину и Иран, я смогу с невозмутимым видом подойти ко многим европейским правительствам и сказать: давайте вернёмся к тому, чем вы занимались раньше», — сказал он.

При этом нужно ускорять развитие «положительных» сторон ИИ, например сокращение очередей в британской государственной системе здравоохранения или более быстрый поиск лекарств. Наиболее широко распространенное применение ИИ, о котором знает Гейтс, — это пилотные проекты с фермерами в Индии.

Исполнительный директор МВФ Кристалина Георгиева 12 октября заявила, что ИИ может повлиять на 40% рабочих мест в мире: дополнить человеческий труд на одних должностях и обесценить или устранить другие.

В сентябре Гейтс сказал, что ИИ достаточно мощный, чтобы в руках злоумышленников привести к событиям с миллиардом смертей. Речь шла о потенциальном масштабе последствий, а не о прогнозе.

В августе он предложил «налог на токены»: плату за использование ИИ, которая должна была бы сделать замену людей машинами менее выгодной и создать фонд поддержки тех, кто потеряет работу.

О том, почему способность ИИ-агентов самостоятельно создавать собственные копии представляет собой новый класс рисков, в статье ZN.UA «Не фантастика. ИИ уже способен размножаться и влиять на работу онлайн-сервисов. Готовы ли мы к этому?» пишет заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Национальной академии правовых наук Украины, доктор наук в области права Алексей Костенко.