Ентузіасти подвоїли тензорну продуктивність відеокарт GeForce RTX 30 та 40

Незалежні дослідники та розробники представили програмні модифікації, які дозволяють зняти штучні обмеження продуктивності на споживчих відеокартах NVIDIA поколінь Turing, Ampere та Ada Lovelace.  

Оскільки побутові чипи створюються на базі тих самих кристалів, що й професійне серверне обладнання, розробники змогли розблокувати швидкість видачі інструкцій та роботу тензорних ядер до показників професійних рішень.

Для відеокарт серій GeForce RTX 30 та RTX 40 модифікації забезпечують до двох разів швидше виконання матричного множення та операцій FP/BF16 із накопиченням FP32, що критично важливо для запуску великих мовних моделей та локальних систем штучного інтелекту. Наприклад, у флагманській GeForce RTX 4090 показник продуктивності тензорних ядер зріс зі 165 до 331 терафлопс.

Новий метод працює в середовищі Linux, успішно проходить драйверні перевірки NVIDIA і дозволяє використовувати штатний софт через CUDA без змін лімітів споживання енергії, проте подібне втручання анулює заводську гарантію на обладнання.