Samsung представляет память SOCAMM2 LPDDR5X для центров обработки данных с искусственным интеллектом — быстрее и энергоэффективнее, чем DDR5 RDIMM

Компания Samsung представила память SOCAMM2 на базе чипов LPDDR5X, разработанную специально для платформ центров обработки данных с искусственным интеллектом. Новый формат памяти предназначен для обеспечения серверов преимуществами энергоэффективности и пропускной способности LPDDR5X без необходимости постоянной пайки микросхем памяти к поддерживающей материнской плате.

Память SOCAMM2 предназначена для определенного и растущего класса систем, в которых процессоры или суперчипы CPU-GPU соединены с большими пулами системной памяти, которая должна обеспечивать высокую пропускную способность при более низком энергопотреблении, чем могут предложить обычные серверные модули DIMM, и все это в меньшем форм-факторе. По мере расширения рабочих нагрузок по анализу данных и перехода серверов искусственного интеллекта к постоянной доступности энергоэффективность памяти больше не может считаться второстепенной задачей, поскольку она вносит значительный вклад в эксплуатационные расходы на уровне стойки. SOCAMM2 является ответом на эти проблемы.

Samsung отмечает, что хотя серверные модули на базе чипов DRAM, такие как RDIMM (Зарегистрированный двухрядный модуль памяти) продолжают служить основой для высокопроизводительных серверов общего назначения, SOCAMM2 предлагает дополнительную альтернативу, оптимизированную для следующего поколения серверов искусственного интеллекта, которым требуется как высокая производительность, так и энергоэффективность.

Память SOCAMM2 обеспечивает более чем вдвое большую пропускную способность, чем традиционные модули RDIMM, потребляя при этом на 55% меньше энергии и поддерживая стабильно высокую производительность при рабочих нагрузках с интенсивным использованием искусственного интеллекта, что делает ее идеальной для энергоэффективных, ориентированных на производительность серверов искусственного интеллекта. Кроме того, повышенная энергоэффективность SOCAMM2 упрощает задачу организации и управления охлаждением систем искусственного интеллекта, что является критическим фактором для высокоплотных вычислительных сред искусственного интеллекта.

Samsung заявляет, что уже работает с Nvidia над разработкой инфраструктурных решений с использованием таких модулей памяти и позиционирует формат SOCAM2 как естественный ответ на рост затрат на электроэнергию, ограничения плотности и проблемы поддержки в масштабе. Samsung также отмечает, что по мере роста масштабов и сложности рабочих нагрузок ИИ компания продолжит развивать свой портфель серверной памяти на основе LPDDR.