SK Hynix и SanDisk создали новый тип памяти для узкого места ИИ-инфраструктуры

На конференции FMS 2026 два крупнейших производителя памяти представили открытый стандарт High-Bandwidth Flash — промежуточный слой между дорогой HBM и медленными SSD, призванный снять ограничения при работе с гигантскими нейросетями.

HBF — это не замена оперативной памяти и не замена SSD, а недостающий промежуточный слой, который позволяет инференс-серверам держать триллионы параметров модели быстрее доступными без катастрофических затрат на HBM.

В чём проблема, которую решает HBF

Современные языковые модели — те же, на которых работают ChatGPT, Gemini и десятки корпоративных ИИ-сервисов — раздуваются с каждым поколением. Параметры уже исчисляются сотнями миллиардов, а топовые архитектуры подходят к триллиону. Всё это нужно где-то хранить и к чему-то подключать с приемлемой скоростью.

На сегодня стандартное решение — HBM (High Bandwidth Memory), та самая сверхбыстрая память, которая стоит прямо на кристалле рядом с GPU. Она даёт колоссальную пропускную способность в терабайтах в секунду, но есть две проблемы: она крайне дорогая и физически занимает много места на подложке. Один ускоритель Nvidia H200 несёт 141 ГБ HBM — это много для большинства задач, но для моделей с триллионами параметров этого попросту не хватает.

Альтернатива — обычные NVMe-накопители через шину PCIe. Ёмкость большая, стоимость низкая, но задержки и пропускная способность на порядки хуже. Нейросеть, которая будет «бегать» к SSD за весами, будет работать непозволительно медленно.

High-Bandwidth Flash — попытка заполнить именно этот разрыв: дать больше ёмкости, чем влезает в HBM, но с производительностью, несопоставимо лучшей, чем у обычных флеш-накопителей.

Что такое HBF на аппаратном уровне

На конференции Future of Memory and Storage 2026 в Санта-Кларе компании SK hynix и SanDisk опубликовали первую открытую техническую спецификацию HBF через организацию Open Compute Project. В разработке участвовали Google DeepMind, Tenstorrent и другие ключевые игроки экосистемы.

Суть спецификации: на базе высокоплотной 3D- и так называемой «4D»-NAND формфакторных чипов собираются плотные стеки из 8 или 16 кристаллов. Один такой стек может давать до 512 ГБ «ближней» памяти — то есть памяти, физически расположенной рядом с процессором и подключённой к нему напрямую, без промежуточных шин с высокой задержкой.

Для подключения используется стандарт UCIe (Universal Chiplet Interconnect Express) — межкристальный интерфейс, который стремительно становится отраслевым стандартом. За ним стоит консорциум, в который входят AMD, Intel, TSMC, Arm и другие крупные архитекторы чиплетов. Благодаря UCIe стеки HBF могут размещаться прямо на том же кремниевом интерпозере, что и GPU или специализированный ИИ-ускоритель, — физически вплотную, без «посредничества» PCI-Express.

Три градации скорости

Спецификация определяет три уровня пропускной способности — Grade 1, Grade 2 и Grade 3:

• Grade 1 — примерно 400 ГБ/с через интерфейс к хосту.
• Grade 3 — до 3 ТБ/с, что уже сопоставимо с показателями некоторых конфигураций HBM.

SK hynix демонстрирует реализацию на базе своей 375-слойной V10 4D NAND и обещает в 2,5 раза лучшую энергоэффективность по сравнению со стандартными серверными флеш-решениями. Это серьёзный показатель для дата-центров, где электричество и охлаждение — одна из главных статей расходов.

Для каких задач это заточено

HBF не универсальная замена оперативной памяти. Авторы спецификации прямо указывают на конкретные сценарии.

Первый и главный — инференс крупных моделей с архитектурой Mixture of Experts (MoE). В MoE-сетях из всех параметров модели одновременно активна лишь небольшая часть — для каждого токена «просыпаются» только отдельные «эксперты». Но все они должны лежать где-то в быстрой памяти, чтобы быть доступными по запросу. HBF идеально подходит для такого сценария: держать огромный пул экспертных весов в «ближней» флеш-памяти, а в HBM загружать только тех, кто нужен прямо сейчас.

Второй сценарий — хранение embedding-таблиц и других статических данных, которые модель читает многократно, но практически никогда не перезаписывает. Это важно с точки зрения ресурса NAND: флеш-память имеет ограниченное число циклов записи, но для инференса (где запись почти не нужна) это ограничение снимается само собой.

Что это значит для обычного пользователя

А вот здесь придётся разочаровать тех, кто надеялся увидеть HBF в следующем поколении видеокарт.

Конструкция HBF требует продвинутой трёхмерной гетерогенной упаковки, кремниевых интерпозеров и выделенных UCIe-физических уровней. Всё это стоит дорого — настолько, что оправдано только экономикой дата-центров. Тот факт, что HBF-модули проектируются через открытую инициативу OCP и ориентированы на серверные платформы, подчёркивает: речь о корпоративном сегменте.

Теоретически технология могла бы пригодиться и в десктопном железе — например, для кеширования игровых ассетов на уровне GPU. Но реальность такова, что уже сейчас флагманские видеокарты стоят как небольшой автомобиль. Добавление слоя HBF сделало бы их ещё дороже без ощутимого выигрыша для типичных потребительских задач.

Открытый стандарт как стратегия

Отдельно стоит отметить стратегический ход: спецификация выходит через Open Compute Project как открытый стандарт. Это значит, что любой производитель ускорителей теоретически может интегрировать HBF в свой дизайн, не привязываясь к конкретному поставщику памяти. Для экосистемы ИИ-ускорителей, где сейчас доминирует Nvidia, это шаг к большей конкуренции и разнообразию решений.

UCIe как единый межчиплетный интерфейс играет здесь ключевую роль. Пока компании используют проприетарные соединения между чиплетами, совместимость невозможна. Единый стандарт делает реалистичной картину, где на одной подложке соседствуют GPU от одного вендора, HBF-стеки от другого, а контроллеры — от третьего.

Осторожный оптимизм

High-Bandwidth Flash — не революция и не волшебная таблетка от всех проблем ИИ-инфраструктуры. Это инженерный ответ на конкретное узкое место: разрыв между дорогой сверхбыстрой памятью и дешёвыми, но медленными накопителями. Первые коммерческие решения появятся не раньше 2027–2028 годов, и реальный эффект для конечных пользователей — через более низкую стоимость инференса в облаке.

Но сам факт того, что два крупнейших производителя NAND договорились об открытом стандарте и привлекли к разработке таких игроков, как Google DeepMind, говорит о серьёзности намерений. Память для ИИ — это уже не побочная история про «поставьте больше DIMM-модулей». Это отдельная инженерная дисциплина, и HBF — один из её первых зрелых инструментов.