Amazon, Advanced Micro Devices і група стартапів змагаються за лідерство по виробництву чіпів ШІ з Nvidia

У південній частині Остіна, штат Техас, інженери виробника напівпровідників Advanced Micro Devices розробили мікросхему штучного інтелекту під назвою MI300, яка була випущена рік тому і, як очікується, принесе понад 5 мільярдів доларів продажів у перший рік випуску.

Неподалік у багатоповерхівці на півночі Остіна дизайнери Amazon розробили нову та швидшу версію чіпа ШІ під назвою Trainium. Потім вони випробували чіп у творіннях, включаючи друковані плати розміром з долоню та складні комп’ютери розміром із два холодильники.

Ці дві спроби в столиці Техасу відображають зміни на ринку чіпів штучного інтелекту, який швидко розвивається, і є, можливо, найпопулярнішою та найбажанішою технологією на цей час. У галузі протягом тривалого часу домінувала компанія Nvidia , яка за допомогою своїх чіпів ШІ стала гігантом вартістю 3 трильйони доларів. Протягом багатьох років інші намагалися порівняти чіпи компанії, які забезпечують величезну обчислювальну потужність для завдань ШІ, але досягли незначного прогресу.

Тепер чіпи, створені Advanced Micro Devices, відомі як AMD, і Amazon, а також реакція клієнтів на їхню технологію додають ознак того, що нарешті з’являються надійні альтернативи Nvidia.

Для деяких важливих завдань AI конкуренти Nvidia доводять, що вони можуть забезпечити набагато більшу швидкість і за набагато нижчими цінами, сказав Деніел Ньюман, аналітик Futurum Group. «Це те, що всі знали, можливо, і тепер ми починаємо бачити, як це матеріалізується», - сказав він.

Цей рух відбувається завдяки низці технологічних компаній — від великих конкурентів, таких як Amazon і AMD, до менших стартапів, — які почали адаптувати свої чіпи для певного етапу розробки штучного інтелекту, який стає дедалі важливішим. Цей процес, який називається «інференціюванням», відбувається після того, як компанії використовують чіпи для навчання моделей ШІ. Це дозволяє їм виконувати такі завдання, як надання відповідей за допомогою чат-ботів ШІ.

«Справжня комерційна цінність приходить із висновками, і висновки починають набирати масштабів», — сказав Кріштіану Амон, виконавчий директор Qualcomm, виробника мобільних чіпів, який планує використовувати нові чіпи Amazon для завдань ШІ. «Ми починаємо бачити початок змін».

Конкуренти Nvidia також почали знімати вершки з ігор компанії іншим способом. Вони почали наслідувати тактику Nvidia щодо створення повних комп’ютерів — а не лише чіпів — щоб клієнти могли витягнути з чіпів максимальну потужність і продуктивність для цілей ШІ.

Посилення конкуренції стало очевидним, коли Amazon оголосила про доступність обчислювальних послуг на основі своїх нових чіпів Trainium 2 AI і відгуків потенційних користувачів, включаючи Apple. Компанія також представила комп’ютери, що містять 16 або 64 мікросхеми, з надшвидкими мережевими з’єднаннями, які особливо прискорюють продуктивність логічного висновку.

Amazon навіть будує свого роду гігантську фабрику штучного інтелекту для стартапу Anthropic, у який вона інвестувала, сказав Мет Гарман, виконавчий директор Amazon Web Services. Цей обчислювальний «кластер» матиме сотні тисяч нових чіпів Trainium і буде в п’ять разів потужніший за будь-який, який коли-небудь використовував Anthropic, сказав Том Браун, засновник і головний обчислювальний директор стартапу, який керує Claude chatbot і базується в Сан-Франциско.

«Це означає, що клієнти отримають більше інтелектуальних даних за нижчою ціною та з більшою швидкістю», — сказав пан Браун.

Загалом очікується, що витрати операторів центрів обробки даних на комп’ютери без чіпів Nvidia, які забезпечують обчислювальну потужність, необхідну для виконання завдань штучного інтелекту, цього року зростуть на 49 відсотків до 126 мільярдів доларів, повідомляє Omdia, дослідницька компанія ринку.

Попри це, зростання конкуренції не означає, що Nvidia ризикує втратити лідерство. Прес-секретар компанії звернула увагу на коментарі Дженсена Хуанга , виконавчого директора Nvidia, який сказав, що його компанія має великі переваги в програмному забезпеченні штучного інтелекту та можливостях висновків. Пан Хуанг додав, що попит на нові чіпи Blackwell AI компанії Blackwell, які, за його словами, виконують набагато більше обчислень на ват споживаної енергії, попри збільшення потужності, необхідної для роботи.

«Наша загальна вартість володіння настільки висока, що навіть коли чіпи конкурентів безплатні, це недостатньо дешево», — сказав пан Хуан під час виступу в Стенфордському університеті цього року.

Змінний ринок чіпів штучного інтелекту частково був поштовхом добре фінансованих стартапів, таких як SambaNova Systems, Groq і Cerebras Systems, які останнім часом заявили про значні переваги у швидкості логічного висновку з нижчими цінами та споживанням енергії. Поточні чіпи Nvidia можуть коштувати до 15 000 доларів кожен, а очікується, що чіпи Blackwell коштуватимуть десятки тисяч доларів кожен.

Це підштовхнуло деяких клієнтів до альтернатив. Ден Станзіоне, виконавчий директор Texas Advanced Computing Center, науково-дослідного центру, сказав, що організація планує придбати суперкомп’ютер на базі Blackwell наступного року, але, швидше за все, також буде використовувати мікросхеми SambaNova для логічних завдань через їх нижче енергоспоживання та ціну.

«Це занадто дорого», — сказав він про мікросхеми Nvidia.

AMD заявила, що планує націлити на чіпи Nvidia Blackwell свої власні нові чіпи AI, які з’являться наступного року. У лабораторіях компанії в Остіні, де вона всебічно тестує мікросхеми штучного інтелекту, керівники сказали, що оцінка продуктивності є головною перевагою. Одним із клієнтів є Meta, власник Facebook і Instagram, який каже, що навчив нову модель штучного інтелекту під назвою Llama 3.1 405B, використовуючи чіпи Nvidia, але використовує чіпи AMD MI300s для надання відповідей користувачам.

Amazon, Google, Microsoft і Meta також розробляють власні чіпи штучного інтелекту , щоб пришвидшити певні обчислювальні роботи та знизити витрати, водночас створюючи великі кластери машин, що працюють на чіпах Nvidia. Цього місяця Google планує почати продавати послуги на основі шостого покоління мікросхем внутрішньої розробки під назвою Trillium, які майже в п’ять разів швидші за своїх попередників.

Amazon, яку іноді вважають відсталою в AI, здається, особливо налаштована надолужити згаяне. Цього року компанія виділила 75 мільярдів доларів на чіпи ШІ та інше обчислювальне обладнання, серед інших капітальних витрат.

В офісах компанії в Остіні, якими керує Annapurna Labs, стартап, який вона купила в 2015 році, інженери раніше розробляли мережеві чіпи та мікропроцесори загального призначення для Amazon Web Services. Його ранні чіпи штучного інтелекту, включаючи першу версію Trainium, не набули великої популярності на ринку.

Amazon набагато оптимістичніше дивиться на нові чіпи Trainium 2, які в чотири рази швидше попередніх чіпів. У вівторок компанія також оголосила про плани щодо іншого чіпа, Trainium 3, який повинен бути ще потужнішим.

Ейсо Кант, засновник і головний технічний директор Poolside, стартапу штучного інтелекту в Сан-Франциско, підрахував, що Trainium 2 забезпечить 40-відсоткове підвищення продуктивності обчислень на долар порівняно з обладнанням на базі Nvidia.

Пан Кант додав, що Amazon також планує запропонувати послуги на базі Trainium у центрах обробки даних по всьому світу, які допомагають із завданнями інференції.

«Насправді в моєму бізнесі мені байдуже, який силікон знаходиться під ним», — сказав він. «Я дбаю про те, щоб я отримав найкращу ціну-продуктивність і щоб я міг надати це кінцевому споживачеві».