Intel представила ускоритель GPU D-series с 480 ГБ памяти для крупных моделей ИИ
Компания Intel анонсировала новый ускоритель GPU D-series (кодовое имя Crescent Island), рассчитанный на серверные системы для обработки запросов больших моделей искусственного интеллекта. Устройство было показано на глобальном саммите Open Compute Project и оснащено до 480 ГБ памяти. По данным Intel, один такой ускоритель способен обслуживать модели размером до 300 миллиардов параметров, а конфигурация из восьми карт — модели свыше одного триллиона параметров.
Выбор памяти: LPDDR5X вместо HBM или GDDR7
Вместо более привычной для серверных ускорителей HBM или новейшей GDDR7 Intel использовала LPDDR5X — память, обычно применяемую в ноутбуках и мобильных устройствах. Такой выбор обусловлен ориентированием на инференс: для выполнения уже обученных моделей важно иметь большой объём оперативной памяти, чтобы размещать в ней веса нейросети и связанные данные и минимизировать задержки и накладные расходы на их загрузку.
Производительность, пропускная способность и энергопотребление
По спецификациям Intel, ускоритель достигает производительности на уровне 1,3 петафлопса при вычислениях в формате FP8, часто используемом для ускорения ИИ-задач. Пропускная способность памяти заявлена на уровне 1,5 ТБ/с, а максимальное энергопотребление — 350 Вт. Устройство выполнено в стандартном форм-факторе PCIe и рассчитано на воздушное охлаждение, что упрощает его интеграцию в существующие серверные стойки.
Intel также планирует обеспечить совместимость этих ускорителей с процессорами Xeon для более эффективного распределения задач и управления передачей данных между узлами.
Ограничения и назначение
Объём памяти — важный, но не единственный фактор, определяющий скорость ответа системы: на производительность влияют архитектура вычислительных блоков, реальная пропускная способность памяти, программное обеспечение и характер рабочей нагрузки. Intel не раскрыла розничную цену ускорителя D-series и не объявила точную дату коммерческого запуска.
Компания позиционирует D-series как решение для развёртывания крупных моделей ИИ в корпоративных инфраструктурах: для одновременной обработки множества запросов и работы с длинными контекстами, где важно хранить большие объёмы весов и промежуточных данных в памяти ускорителя.
