Micron предоставляет образцы модулей SOCAMM2 емкостью 256 ГБ. Рекордная емкость LPDDR для серверов искусственного интеллекта и HPC

Компьютерная память на протяжении многих лет была одним из основных узких мест в инфраструктуре искусственного интеллекта. Языковые модели, агентные системы искусственного интеллекта и высокопроизводительные вычисления потребляют ресурсы DRAM со скоростью, с которой традиционные RDIMM едва справляются. Micron стремится к стандарту SOCAMM2 и только что объявила о шаге, который может изменить правила игры в сегменте серверов следующего поколения, хотя только рынок покажет, насколько это изменение на самом деле принесет.

Micron является первой в мире компанией, которая поставляет клиентам образцы модулей SOCAMM2 емкостью 256 ГБ, использующих монолитный кристалл LPDDR5X емкостью 32 ГБ, который, как ожидается, позволит серверам искусственного интеллекта поддерживать гораздо более длинные контекстные окна при энергопотреблении в три раза меньше, чем традиционные RDIMM.

США снова нацелены на китайскую память. SMIC, CXMT и YMTC подверглись критике из-за новых федеральных постановлений

Micron только что отправил клиентам первые образцы модулей SOCAMM2 емкостью 256 ГБ. Это на треть больше предыдущего рекорда в 192 ГБ. Такой скачок возможен благодаря использованию первого в мире монолитного чипа LPDDR5X емкостью 32 ГБ. Для восьмиканального ЦП это означает 2 ТБ памяти LPDDR на одном вычислительном узле. Это напрямую приводит к поддержке более длинных контекстных окон в языковых моделях и меньшей зависимости от более медленного хранения KV-кэша на флэш-носителях.

Кризис оперативной памяти: как будет выглядеть ситуация в марте 2026 года? Вот цены на отдельные модули от Corsair, G.SKILL, Kingston и GOODRAM.

Модуль потребляет треть энергии традиционных RDIMM и занимает треть их места на плате. В рабочих нагрузках с длительным выводом контекста Micron сообщает об улучшении времени до первого токена (TTFT) более чем в 2,3 раза. SOCAMM2 является результатом многолетней работы таких компаний, как NVIDIA, Micron, Samsung и SK Hynix, проводимой в рамках JEDEC. Об этом проекте мы сообщали еще в феврале 2025 года, когда стандарт еще находился на стадии усовершенствованного прототипа. Сегодня Micron лидирует. Коммерческий дебют SOCAMM2 запланирован на платформу NVIDIA Vera Rubin во втором квартале 2026 года, и это станет первым настоящим испытанием зрелости стандарта. Интерес к модулям уже проявили такие компании, как AMD и Qualcomm.

Источник: Микрон