От движка инференса к плоскости управления: как vLLM и llm-d меняют архитектуру обслуживания LLM
Научная работа на arXiv анализирует эволюцию инференса больших языковых моделей от оптимизации внутри отдельного движка к сложной проблеме...
#распределённые системы
Все материалы с тегом «распределённые системы».
Аппаратная защита не на всех узлах: как TEE меняет устойчивость BFT-консенсуса
Исследователи предложили математическую модель и протокол Raftel для BFT-консенсуса в сетях, где только часть узлов работает внутри аппаратных...
Почему AI-агентам пора работать в команде: федеративные MCP-серверы как новая архитектура
Одиночные AI-агенты упираются в потолок масштабируемости. Федеративные MCP-серверы превращают изолированные модели в распределённую сеть...