Amazon показала новий ШІ-чип і натякнула на дещо цікаве у співпраці з Nvidia

Компанія Amazon офіційно представила Trainium3 UltraServer — систему на основі оновленого 3-нанометрового чипа Trainium3 та фірмової мережевої технології Amazon. Це третє покоління AI-заліза від AWS, яке має значно збільшену продуктивність порівняно з попередньою версією. Про це розповідає 24 Канал із посиланням на AWS.

Що вміє новий Trainium3 і що Amazon готує далі?

За даними AWS, Trainium3 забезпечує більш ніж 4-разовий приріст швидкості та обсягу пам’яті як для навчання моделей, так і для обслуговування AI-застосунків у пікові періоди. Систему можна масштабувати: тисячі UltraServer здатні об'єднуватися в інфраструктуру з до 1 мільйона Trainium3 — у 10 разів більше, ніж дозволяв Trainium2. У кожному сервері UltraServer розміщується 144 такі чипи.

Окрім продуктивності, Trainium3 став на 40% енергоефективнішим. На тлі зростання споживання електроенергії AI-системами Amazon прагне створювати рішення, які зменшують навантаження на дата-центри та знижують витрати клієнтів. Компанія зазначає, що партнерські розробники вже відчули економію: серед них Anthropic, японський LLM Karakuri, SplashMusic і Decart, які використовують нове покоління чипів і суттєво зменшили витрати на інференс.

Як пише TechCrunch, AWS також розповіла про наступне покоління чипів — Trainium4, яке вже перебуває в розробці. Amazon обіцяє новий стрибок продуктивності та ключове оновлення: підтримку Nvidia NVLink Fusion, що дозволить Trainium4 працювати разом із Nvidia GPU. Це може зробити хмарну інфраструктуру AWS привабливішою для розробників, які будують моделі на основі CUDA — де-факто стандарту для AI-індустрії.

Trainium4 допоможе інтегрувати дешевше обладнання AWS із високопродуктивними GPU Nvidia, розширюючи гнучкість дата-центрів і потенційно залучаючи більше AI-компаній до хмари Amazon. Графік релізу нового чипа не оголошено, але, зважаючи на попередні цикли, більше інформації може з’явитися на наступній конференції re:Invent.

Якою буде швидкість супутникового інтернету від Amazon?

Окрім ШІ-чіпів, Amazon також офіційно перейшла до практичного етапу запуску власного супутникового інтернету – проєкт отримав назву Amazon Leo й почав надсилати перші термінали вибраним корпоративним партнерам. Після кількох років розробки компанія представила свій флагманський пристрій Leo Ultra. Amazon підтвердила, що цей термінал здатен забезпечувати швидкість завантаження до 1 Гбіт/с і відвантаження до 400 Мбіт/с, чого достатньо для будь-яких сучасних офісних потреб.

Поява Amazon Leo означає, що компанія вперше вступає в пряму конкуренцію зі Starlink. Хоча Amazon значно відстає за кількістю супутників – приблизно 153 проти понад 9 000 у SpaceX – вона з першого дня сформувала широку мережу партнерів. Головною перевагою проєкту може стати інтеграція з Amazon Web Services. Для бізнесу це не лише доступ до інтернету, а можливість передавати великі масиви даних із віддалених локацій – наприклад, із морських платформ або літаків – прямо у хмару AWS, минаючи публічний інтернет. Такий підхід робить послугу привабливою для корпоративних клієнтів, які потребують надійного та захищеного каналу зв’язку.