Celestial AI розробила оптичний інтерконнект, щоб об'єднати HBM та DDR5

Компанія Celestial AI розробила технологію Photonic Fabric для високошвидкісного інтерконнекту всередині складних чипів та між окремими мікросхемами.

Різні виробники пропонують свої методи міжвузлових з'єднань.

Nvidia має шину NVLink, AMD використовує Infinity Fabric, і навіть класичний Ethernet продовжує розвиватися та пропонує все вищі швидкості.

Celestial AI створювала універсальний швидкісний інтерконнект на основі фотоніки, який може використовуватися для з'єднань в рамках чипа та в міжвузлових швидкісних з'єднаннях.

Основною проблемою швидкісних інтерфейсів є втрата пропускної спроможності поза межами єдиного напівпровідникового чипа.

Існує швидкісна пам'ять HBM, але вона жорстко прив'язана до обчислювального чипа.

Celestial AI пропонує альтернативу в особі Photonic Fabric на базі технологій кремнієвої фотоніки.

Це поєднання кремнієво-оптичних сполук, інтерпозерів та чиплетів.

Застосування нової технології може серйозно збільшити обсяг пам'яті та її пропускну здатність в обчислювальних пристроях для ШІ.

Компанія вже зацікавила великі компанії, включно з AMD.

На цьому етапі основний інтерес розробників чипів викликає можливість створення нових чиплетів із застосуванням технологій Celestial AI.

Розроблені компанією модулі пам'яті з оптико-електричним з'єднанням здатні забезпечити пропускну здатність 14,4 Тбіт/сек (1,8 Тбайт/сек).

За розмірами нові модулі не відрізняються від стандартних стеків HBM.

І це не межа, а лише перша реалізація технології з урахуванням можливостей сучасних чипів.

Надалі пропускну спроможність можна буде серйозно збільшити.

При цьому використання HBM все одно створює вузькі місця у доступу до великих обсягів даних.

Компанія пропонує використовувати свої швидкісні з'єднання для створення чиплета з двома стеками HBM загальним обсягом 72 ГБ та чотирма модулями DDR5 об'ємом до 2 ТБ.

Виходить чип з кешем HBM та скрізним доступом до DDR5.

Також застосування таких технологій зменшує загальне споживання енергії.

Згідно з оцінками розробників, витрати енергії на транзакцію з пам'яттю становлять близько 6,2 пікоджоулів на біт замість приблизно 62,5 пікоджоулів при використанні NVLink і NVSwitch для віддаленої транзакції з пам'яттю.

Технологію Photonic Fabric можна використовувати для швидкісних з'єднань між чипами, аналогічно інтерфейсу NVLink.

Теоретично можна створити обчислювальну систему, де всі чипи будуть об'єднані одним високошвидкісним оптичним інтерконнектом.

Серед компаній, які фінансують розробки Celestial AI, є AMD.

І червона корпорація може однією з перших впровадити нові технології у свої майбутні чипи з чиплетним дизайном.

Сам голова Celestial AI вважає, що перші зразки чипів з Photonic Fabric з'являться у 2025 році, а масове комерційне впровадження розпочнеться не раніше 2027 року.

На той час на ринку з'являться аналогічні технології від конкурентів.

Зокрема є Ayar Labs, яка займається кремнієвою фотонікою.

Ця компанія отримала фінансову підтримку від Intel і вже показала свій перший прототип оптичного інтерконнекту.

The Next Platform.

Celestial AI.