Почему Gemma 4b оказалась лучше Mistral 7B для пакетной оценки сообщений на слабом железе
Разработчик столкнулся с задачей пакетной оценки сообщений на видеокарте с 6 ГБ видеопамяти — и выяснил, что размер контекстного окна важнее...
#Gemma
Все материалы с тегом «Gemma».
VIDRAFT побеждает в соревновании по скорости инференса Gemma-4: 510 TPS на одном GPU
Компания VIDRAFT заняла первое место в конкурсе "The First Gemma Challenge", показав 510.58 токенов в секунду на модели Gemma-4 с одним GPU NVIDIA...