#оптимизация инференса

VIDRAFT побеждает в соревновании по скорости инференса Gemma-4: 510 TPS на одном GPU

Компания VIDRAFT заняла первое место в конкурсе "The First Gemma Challenge", показав 510.58 токенов в секунду на модели Gemma-4 с одним GPU NVIDIA...