SK hynix показала новые модульные решения памяти для ИИ‑серверов
16 октября южнокорейский производитель памяти SK hynix представил на мероприятии OCP Global Summit в Сан‑Хосе несколько разработок, ориентированных на «память‑центричные» серверные архитектуры. Конференция Open Compute Project проходила с 12 по 15 октября; компания продемонстрировала модули и стойечные решения, нацеленные на ускорение работы больших языковых моделей и снижение затрат при обработке больших объёмов данных.
CMM‑DDR5: модуль 256 ГБ на интерфейсе CXL 3.2
Одной из центральных новинок стал обновлённый модуль CMM‑DDR5 объёмом 256 ГБ, использующий интерфейс CXL 3.2 (Compute Express Link). В SK hynix указывают, что пропускная способность таких модулей достигает 80 ГБ/с — более чем в два раза выше показателей предыдущего поколения — при одновременном повышении энергоэффективности примерно на 30%. Модули рассчитаны на работу в режиме pooled memory, то есть общий пул памяти может использоваться несколькими серверами.
MARS и CMM‑Ax: стойка и вычисления вблизи памяти
Компания также показала стоечную систему MARS (Memory Centric AI Rack System), в которой память выступает ключевым компонентом инфраструктуры и интегрирует технологии нескольких партнёров. В партнёрстве с Naver Cloud была продемонстрирована концепция общего кэша ключей и значений (KV‑cache) для ускорения генерации текста в больших языковых моделях, а также организация общих векторных представлений для сервисов, работающих с разными типами данных.
Технология CMM‑Ax, представленная вместе с этим, направлена на оптимизацию перемещения данных — фактически приближение вычислений к памяти. На демонстрациях CMM‑Ax показывали преимущества при работе с большими языковыми моделями, требующими обработки длинного контекста.
Статус решений и доступность
SK hynix подчёркивает, что показанные решения носят демонстрационный характер и пока не предназначены для коммерческого развёртывания. В анонсах отсутствуют независимые тесты производительности, сведения о стоимости и сроки появления продуктов на рынке.
Источники: ixbt.com, SK hynix
