Intel анонсувала ШІ-прискорювач Gaudi 3, який швидший за Nvidia H100

На заході Intel Vision компанія представила свій новий прискорювач для обчислень штучного інтелекту Gaudi 3.

В його основі великий процесор з кількома кристалами, включаючи два великі обчислювальні блоки та кілька блоків пам'яті.

Новий прискорювач забезпечує пікову продуктивність FP8 до 1835 Тфлопс і повинен бути швидшим за популярний прискорювач Nvidia H100.

Процесор Gaudi 3 налічує 64 тензорних ядра п'ятого покоління (по 32 на одне велике GPU-ядро), 96 МБ швидкісної кеш-пам'яті SRAM та 128 ГБ пам'яті HBM2e (8 стеків) з пропускною здатністю 3,7 ТБ/с.

І все це об'єднано в одному великому чипі на одній підкладці, який виробляється на базі техпроцесу 5 нм TSMC.

Підтримується до 24 ліній 200 Gigabit Ethernet для створення комплексних обчислювальних систем з можливістю масштабування.

Прискорювачі Intel Gaudi 3 AI випускатимуться у формфакторі OAM (OCP Accelerator Module) HL-325L з потужністю до 900 Вт для високопродуктивних серверних рішень з можливістю водяного охолодження.

Також будуть доступні прискорювачі Gaudi 3 HL-338 під PCIe з TDP 600 Вт та ідентичними характеристиками OAM.

Одночасно анонсовано базову плату HLB-325 та систему HLFB-325L, яка може включати до 8 прискорювачів Gaudi 3.

Така система має сукупний TDP 7,6 к.

Вт при розмірі 19 дюймів.

У своїх матеріалах Intel активно порівнює новий прискорювач із Nvidia H100 та Nvidia H200.

І новий Intel Gaudi 3 помітно краще справляється із навчанням різних моделей ШІ, показуючи перевагу від 1,4 до 1,7 раза.

При виведенні даних різниця вже помітно нижча.

Але з погляду енергоефективності Gaudi 3 кращий в 1,2-2,3 раза, залежно від області обчислень та конкретної моделі ШІ.

Перші зразки прискорювача Intel Gaudi 3 AI будуть доступні партнерам у першій половині 2024 року.

Але відвантаження великих партій розпочнеться не раніше другої половини року.