NVIDIA запустила AI Accelerators GB300
Nvidia выпустила ограниченное производство суперспособности Grace Blackwell GB300 для ресурсов интенсивных искусственных интеллекта, согласно Digitimes. Ожидается, что доставка продуктов начнутся в сентябре с постепенного увеличения объемов производства.
Решение GB300 представляет собой пачку процессора Grace Arm с 72 ядрами Neoverse V2 и двумя черными чипами ультра -чипсами. Он оснащен памятью HBM3E 288 ГБ с полосой пропускной способности до 8 ТБ/с. Акселератор GB300 является основой стойки GB300 NVL72, которая имеет 36 чипов Грейс и 72 процессоров Blackwell Ultra. Производительность такого комплекса достигает 720 PFLOP с операциями FP8/FP6.
«На этом этапе нет серьезных проблем с GB300. Поставки должны проходить гладко со второй половины года».
выделенные представители одного из производителей ODM
Тем не менее, отмечается, что поиск акселераторов ИИ GB200 остается высоким. Клиенты продолжают покупать эти продукты, несмотря на сложность охлаждения.
Огромная вычислительная мощность и повышенная плотность местоположения серверов требовали использования систем удаления тепла в жидкость, но были проблемы с утечкой воды. Во многих случаях оказалось, что это связано с быстрыми разъемами, которые не всегда соответствуют необходимым требованиям — даже после стресс -тестов. Производители ODM отмечают, что фактические условия эксплуатации сильно различаются с точки зрения давления воды и конструкции трубопровода, что затрудняет исключение утечек. После продажи требуется значительное время и стоимость.
В случае GB200 основные проблемы были связаны с переходом от архитектуры Хоппера в Блэквелл, что привело к сложным изменениям платформы. GB300, с другой стороны, использует существующую инфраструктуру и, следовательно, не ожидается создавать серьезные проблемы при запуске и доставке этих продуктов. ODM, который в настоящее время активно тестирует отчеты GB300, чтобы поощрять результаты. Ожидается, что переход пройдет плавно, с запланированными массовыми расходными материалами за третий квартал, а объемы производства будут увеличиваться в последнем квартале этого года.
Новые проблемы могут быть созданы следующим поколением акселераторов из семейства Рубин, которые заменит Blackwell Ultra во второй половине 2026 года. Эта платформа включает в себя ChIP и совершенно новый шкаф Kyber (для VR300 NVL 576), который заменит текущую конструкцию Oberon. Плотность местоположения увеличится до 600 кВт на шкаф, что требует еще более стабильных систем охлаждения. Отмечено, что использование SLR будет обязательным для Superuries Rubin.
