До 128 ГБ памяти и 1 петафлопс: NVIDIA RTX Spark запускает ИИ без облака

В ходе специальной презентации Windows & Surface корпорация Microsoft поделилась дополнительными подробностями о платформе NVIDIA RTX Spark. Фактически производителям компьютерной техники предложили два чипа с несколько отличающимися характеристиками.

Характеристики NVIDIA RTX Spark

Платформа NVIDIA RTX Spark объединяет вычислительные ядра Arm NVIDIA Grace с графическим процессором Blackwell RTX (с нативной поддержкой CUDA) и оперативной памятью. Она рассчитана на локальную работу с искусственным интеллектом. CPU и GPU объединены с помощью NVLink C2C.

• Базовая модель оснащена 18-ядерным процессором и графическим процессором с 5120 ядрами. Для неё предусмотрено 24 или 32 ГБ оперативной памяти.
• Топовая конфигурация включает 20-ядерный процессор и 6144 графических ядра. В этом случае может использоваться 32, 48, 64 или 128 ГБ оперативной памяти.

Главное преимущество RTX Spark — работа с крупными моделями искусственного интеллекта без подключения к облачным сервисам. Производительность топового чипа для задач ИИ достигает 1 петафлопса. Система способна запускать локальные модели с 120 млрд и более параметров локально — без использования облачных сервисов.

Чип NVIDIA RTX Spark стал основой нового ноутбука Microsoft Surface Laptop Ultra. Другие производители компьютерной техники также готовятся вывести на рынок собственные модели на базе новой платформы.

Такие устройства позиционируются как универсальные устройства для работы, создания контента и игр. RTX Spark позволит запускать большое количество популярных игр класса AAA. В том числе Call of Duty будет работать на чипах этой платформы в 2027 году.