Нова китайська модель ШІ Kimi K3 за 48 годин створила робочий чип

Китайська компанія Moonshot представила власну нову модель ШІ Kimi K3 Open з 2,8 трлн параметрів, яка за 48 спроєктувала робочий чип. 

Moonshot називає Kimi K3 першою у світі моделлю ШІ з відкритим вихідним кодом класу 3T, розробленою спеціально для обчислень на базі штучного інтелекту. До її технічних особливостей належать:

• 2,8 трлн параметрів на архітектурі Mixture-of-Experts (MoE).
• контекстне вікно — 1 048 576 токенів.
• вбудована підтримка тексту, зображень та відео.
• механізм уваги Kimi Delta Attention (KDA) та залишкові значення уваги, тобто забезпечення кожному шару вибіркового доступу до всіх попередніх накопичених даних з урахуванням їхнього вмісту. Заявлено, що це пришвидшує декодування до 6,3 раза у контексті з мільйоном токенів.
• Формат ваг MXFP4 ⁄ активації  MXFP8 (з урахуванням квантування на основі навчання).
• на момент релізу будуть доступні моделі K3 Max (загальна/чатбот/ ШІ-агент) та K3 Swarm Max. (великомасштабна паралельна обробка).
• Постійна доступність з можливістю налаштування параметрів через API під час запуску.
• Вагова категорія: відкриті ваги. Реліз очікується 27 липня.
• Ціни: $3 за мільйон вхідних токенів та $15 за мільйон вихідних. Кешоване введення — $0,3.
• Доступність через застосунки Kimi, Kimi Code, API, сумісний з OpenAI, Moonshot, OpenRouter.
• За даними  Moonshot, модель продемонструвала високі показники у тестах Terminal-Bench 2.1, пов’язаних з агентним програмуванням, лише трохи поступившись GPT-5.6 Sol.

Загалом це цілком конкурентна модель ШІ, однак вона поступається найкращим моделям від OpenAI та Antropic, GPT 5.6 та Claude Fable 5. При цьому зазначається, що китайська модель за 48 годин автономно здійснила розробку повністю робочої мікросхеми.

За один автономний 48-годинний запуск без участі людини Kimi K3 розробила функціональну мікросхему, використовуючи власну архітектуру. Вона займалась проєктуванням, оптимізацією, верифікацією, тимчасовими характеристиками та моделюванням. В результаті була представлена мікросхема площею 4 мм², бібліотекою Nangate 45 нм, інструментами EDA з відкритим вихідним кодом, яка досягла продуктивності декодування у понад 8700 токенів на секунду в режимі моделювання.

Чип працює на частоті близько 100 МГц, містить 1,46 млн стандартних осередків 0,277 МБ SRAM та масив MAC-адрес INT4 з функцією об’єднаного деквантування. За результатами початкових тестів чип досяг продуктивності виведення ШІ у 8721 токен/с.

Kimi K3 також обіцяє забезпечення дивовижних результатів у сфері 3D-аналізу, програмування та комп’ютерного зору. Її можна використовувати для перетворення зображень і відео на повністю інтерактивні ігрові процеси.

Демонстраційний приклад показує персонажа на коні поряд з невеликою фермою, деревами та озером. В сцені йде дощ і модель чудово справляється з генерацією.

Серед інших досягнень Kimi K3 — створення з нуля компілятора для графічних процесорів MiniTriton з власною системою програмування. Повідомляється, що він перевершує або щонайменше відповідає деяким частинам офіційного компілятора Triton від NVIDIA у бенчмарках.

Kimi K3 змонтувала власний професійний рекламний відеоролик, використавши початково 56 відеокліпів, які відредагувала. Вона забезпечила безперервну та цільну дію, покадрову синхронізацію ритму з музикою, обробку звуку та кілька етапів доопрацювання. Вона також створила анімаційну графіку в стилі 3Blue1Brown, яка розкривала її власну архітектуру.

Джерело: Wccftech