Тег

#инференс

Все материалы с тегом «инференс».

9 материалов

30.09.2026 · 5 мин

Astera Labs обновляет контроллеры памяти Leo: помощь ИИ-центрам в борьбе с дефицитом памяти

Astera Labs представила обновлённую линейку контроллеров памяти Leo и коммутаторов Scorpio — они должны помочь дата-центрам справиться с нехваткой...

23.09.2026 · 5 мин

Исследователи предложили математическую модель SARA, которая помогает оптимально распределять вычислительные ресурсы между компонентами...

23.09.2026 · 5 мин

Научная работа на arXiv анализирует эволюцию инференса больших языковых моделей от оптимизации внутри отдельного движка к сложной проблеме...

10.09.2026 · 6 мин

Обзор ключевых обновлений в мире AI-разработки: новая модель OpenAI, стабильный фреймворк для Kotlin-агентов, управляемые разрешения в Copilot и...

10.09.2026 · 5 мин

Новый метод DiffLUT-Net позволяет обучать нейросети напрямую на программируемых чипах FPGA, превращая их в компактные аппаратные блоки без...

04.08.2026 · 6 мин

GitHub-проект Waste обходит проблему нехватки оперативной памяти при работе с моделями на триллионы параметров — веса подгружаются «на лету» с...

03.08.2026 · 11 мин

Ollama — отличная точка входа для запуска языковых моделей на своём железе, но при росте нагрузки её простота превращается в ограничение....

02.08.2026 · 4 мин

Израильский стартап Majestic Labs представил сервер Prometheus на базе Arm-процессоров и до 128 ТБ LPDDR6-памяти, который, по заявлению...

30.07.2026 · 7 мин

OpenAI резко снизила стоимость моделей GPT-5.6 Luna и Terra, вписав их в нижний ценовой сегмент и ужесточив конкуренцию с Google и Anthropic за...