Хейтеры не пройдут. Facebook строит суперкомпьютер

Суперкомпьютер от Meta - материнской компании Facebook - позволит создать искусственный интеллект, способный работать как человеческий мозг: понимать контекст, анализировать тексты, изображения и видео на сотнях языков.

Facebook уже давно рассчитывает на то, что искусственный интеллект поможет ему в сложной задаче модерации постов от миллиардов пользователей. Теперь его материнская компания - Meta - делает шаг, который должен приблизить ее к этой недостижимой, на первый взгляд, цели: создание своего первого суперкомпьютера. Искусственный интеллект сможет выполнять сложнейшие задачи, среди которых и анализ вредоносного контента. Корреспондент.net рассказывает подробности.

Самый мощный в мире

Meta занимается долгосрочными инвестициями в искусственный интеллект с 2013 года, когда была создана исследовательская лаборатория ИИ Facebook. 24 января компания объявила о создании суперкомпьютера AI Research SuperCluster (RSC), предназначенного для использования в исследовательских проектах в области искусственного интеллекта.

Суперкомпьютер, который разрабатывался в течение двух лет, может в конечном итоге помочь Meta разработать гораздо более мощное программное обеспечение для искусственного интеллекта, способное решать такие сложные задачи, как выявление и пресечение разжигания ненависти в постах.

"С помощью RSC мы можем быстрее обучать модели [искусственного интеллекта], которые используют мультимодальные сигналы - например, для понимания контекста поста, включая язык, изображение и тон", - рассказал CNN Business инженер-программист Meta Шубхо Сенгупта. 

Суперкомпьютеры, имеющие множество взаимосвязанных процессоров, объединенных в так называемые узлы, в последние годы становятся все более популярными для исследований в области искусственного интеллекта.

Самый быстрый на сегодняшний день суперкомпьютер в Соединенных Штатах и второй по скорости в мире - Summit от IBM и Министерства энергетики США - использовался, например, при исследовании неизвестных белков. Несколько крупных технологических компаний, таких как Microsoft и NVIDIA, тоже имеют свои суперкомпьютеры.

Meta в своем официальном блоге сообщила, что по состоянию на январь ее суперкомпьютер включает 6080 графических процессоров, разделенных на 760 узлов, что потенциально делает его одним из самых мощных в мире. 

По словам Сенгупты, в своем нынешнем размере он находится на одном уровне с суперкомпьютером Perlmutter в Национальном научно-вычислительном центре энергетических исследований, который занимает пятое место в мире. Однако, когда он будет достроен примерно в середине этого года, у него будет 16 тысяч графических процессоров NVIDIA A100, и компания ожидает, что компьютер будет способен обеспечивать почти пять экзафлопс вычислительной производительности - это пять квинтиллионов операций в секунду.

"После полной сборки кластер увеличится почти в три раза, что, насколько нам известно, сделает его самым быстрым суперкомпьютером с искусственным интеллектом в мире", - пояснил Сенгупта.

В работе над проектом принимают участие несколько сотен специалистов, в том числе сотрудники NVIDIA, Penguin Computing и Pure Storage.

Как человеческий мозг

По данным Meta, исследователи уже начали использовать суперкомпьютер для обучения больших моделей, связанных с обработкой естественного языка и компьютерным зрением на наборе данных размером до эксабайта, что примерно эквивалентно 36 тысячам лет видео в высоком качестве.

В будущем Meta хочет создать искусственный интеллект, который сможет работать как человеческий мозг и понимать контекст, анализировать тексты, изображения и ролики на сотнях языков, а также выявлять вредоносный контент и создавать новые инструменты дополненной реальности.

Meta надеется, что со временем это позволит компании "создавать совершенно новые системы искусственного интеллекта", которые смогут выполнять такие сложные задачи, как перевод в реальном времени для большой группы людей, говорящих на разных языках.

Ранние тесты показали, что суперкомпьютер может обучать большие языковые модели в три раза быстрее, чем система, которую компания использует в настоящее время. Это означает, что модель ИИ, на обучение которой у существующей системы ушло бы девять недель, можно обучить на суперкомпьютере за три недели.

Meta надеется, что ее новый суперкомпьютер в итоге сможет обучать модели ИИ с триллионами параметров - существует всего несколько известных моделей искусственного интеллекта такого масштаба. Он также будет во много раз больше, чем GPT-3, большая языковая модель от OpenAI, которая способна генерировать текст, звучащий как человеческий, и используется для таких приложений, как изучение языков и налоговое программное обеспечение для фрилансеров.

В конце концов, по информации Meta, суперкомпьютер приведет к технологиям, необходимым для создания так называемой метавселенной - широкомасштабного, взаимосвязанного виртуального царства, внутри которого люди могут ходить с помощью цифровых аватаров и взаимодействовать с другими людьми, которые также находятся там виртуально.

Facebook позиционировал метавселенную как будущее компании, но сегодня реализованы лишь фрагменты этого направления. Подробнее о проекте в материале Как Facebook создает метавселенную с телепортацией.