Чудо-чипы в деле. Рекордно мощный суперкомпьютер от Илона Маска заставит ИИ "поумнеть"

Инженеры объединяют 3 тысячи чипов собственного производства, чтобы достичь рекордной мощности в 1,1 ExaFLOPS, они готовы делиться с конкурентами.

Компания Tesla, основанная Илоном Маском, представила чипы Dojo, которые объединяют в самую быструю систему для обучения искусственного интеллекта. Новую технологию раскрыли во время конференции AI Day, передает сайт Electrek.

Во время презентации старший директор компании Tesla по автопилоту и руководитель проекта Dojo Ганеш Венкатараманан показал чип D1, созданный по 7-нанометровой технологии из 50 млн транзисторов. Это второй чип Tesla после FSD, который компания создала для бортовых компьютеров своих автомобилей.

По словам разработчика, D1 обладает огромной вычислительной мощностью и пропускной способностью. В одном чипе содержится 354 обучающих узла на базе 64-разрядного суперскалярного 4-хядерного процессора. Для работы ИИ в Tesla создали специальный интерфейс с с пропускной способностью 10 ТБ/с. Кольцо ввода-вывода включает 576 полос, каждая из которых имеет пропускает 112 ГБит за секунду.

"Он был полностью разработан командой Tesla внутри компании. От архитектуры до оболочки. Этот чип обеспечивает вычисления на уровне графического процессора с гибкостью на уровне центрального и вдвое большей пропускной способностью по сравнению с сетевыми чипами", — подчеркнул Венкатараманан.

D1 созданы таким образом, что могут легко соединяться друг с другом "без какого-либо клея". Таким образом инженеры Tesla объединили 25 чипов, добавили интерфейс для управления питанием и температурой и получили так называемую "тренировочную плитку" объемом меньше кубического фута (0,028 кубометра). Система обеспечивает производительность в 9 PFlops (петафлопс) и пропускную способность 36 ТБ в секунду при частоте 2 ГГц.

"Это беспрецедентно. Это удивительное произведение инженерной мысли", — считает представитель Tesla.

Он добавил, что компания недавно впервые запустила нейронную сеть на одной из таких плиток. Теперь разработчикам необходимо собрать вычислительный кластер из нескольких таких наборов, чтобы построить первый суперкомпьютер Dojo. Они собираются объединить два поддона по 2x3 тренировочных плитки в одном корпусе (кабинете) — такая система получит производительность более 100 PFlops.

Tesla собирается планируют связать 120 плиток (3000 чипов) Dojo в суперкомпьютер ExaPod, который "разгонится" до 1,1 ExaFLOPS (FP16/CFP8) — пока такой производительности не удалось достичь ни одной компании. По словам гендиректора Илона Маска, они запустят такую машину уже в 2022 году, а в следующей версии инженеры улучшат мощность отдельных компонентов в 10 раз.

Наряду с запредельной производительностью, суперкомпьютер получит высокую энергоэффективность и относительно скромные размеры. При помощи ExaPod Tesla собирается обучать свои нейросети для технологий управления автомобилями, но в будущем обещает поделиться наработками с другими разработчиками.

Ранее Илон Маск представил концепт гумманоидного робота Tesla Bot. По его словам, андроида специально сделают слабым и медленным, чтобы он никак не навредил людям, но смог выполнять рутинную работу.