Nvidia представила Blackwell Ultra с 288 ГБ HBM3E Memory-EI-Social Service для «возраста отражения»
Nvidia официально представила Specifier AI для расчетов в центрах обработки данных Blackwell Ultra B300, Grace Blackwell Ultra GB300 Super Cut и различные системы, основанные на нем, как часть открытия конференции GTC 202. созданный «Для рассуждения эратиан», т.е. Для последних, более сложных и требующих многих ресурсов и моделей, способных думать о различных проблемах, таких как люди.
Nvidia традиционно не раскрывает все детали новых продуктов. Компания только отметила, что графические процессоры Blackwell Ultra (в GB300 и B300) физически отличаются от чипсов Blackwell (в GB200 и B200).
Обратите внимание, что Blackwell Ultra B300 — это классический графический ускоритель, в то время как Grace Blackwell Ultra GB300 — это набор процессоров Grace Arm с 72 ядрами Neoverse V2 и двумя графическими процессорами Blackwell Ultra.
NVIDIA подчеркивает увеличение на 50 % в памяти набор. Blackwell Ultra имеет память HBM3E 288 ГБ, которая будет полезна при работе с особенно большими I-моделями. Емкость памяти была увеличена за счет использования новых 12-ступенчатых стеков HBM3E-Blackwell B200 использует 8-ступенчатые стеки HBM3E, которые обеспечивают 192 ГБ памяти.
Согласно Nvidia, производительность Blackwell Ultra должна быть в 1,5 раза выше, чем у Blackwell при работе с уже обученными I-модками (вывод FP4).
Компания утверждает, что производительность составляет 15 PFLOP для расчетов FP4 и 30 PFLOP для разбавленных расчетов FP4. Для оригинального акселератора Blackwell B200 эти значения составляют 10 и 20 PFLOP соответственно.
Nvidia предложит несколько готовых систем на основе новых ускорителей, которые начнут отправляться во второй половине этого года. GB300 NVL72 на самом деле является готовым серверным шкафом, который объединяет 72 графических процессоров Blackwell Ultra и 36 процессоров Grace. Новый продукт, а также его предшественник, GB200 NVL72 оснащен системой жидкого охлаждения, использует NVLink из супернакных модулей NVIDIA ConnectX-8 и предлагает память 18 TB LPDDR5X. Продуктивность достигает 1100 PFLOP с расчетами FP4 и до 1400 PFLOP с разбавленными расчетами FP4.
NVIDIA специально отмечает использование соединителя NVLink 5 -го поколения, который соединяет отдельные чипы для создания «одного большого графического процессора». Пропускная способность каждого графического процессора составляет 1,8 ТБ/с, а общая полоса пропускания составляет 130 ТБ/с. Начиная с Blackwell, NVLink также может использоваться в качестве интерфейса для подключения нескольких серверных шкафов, которые ранее проводились через Infiniband при 100 Гбит/с. Следовательно, Nvidia утверждает, что скорость увеличивается 18 раз для этого конкретного сценария.
До 576 графических процессоров могут быть подключены к NVLink. Фактически, Nvidia также предложит такую систему — Blackwell Ultra DGX SuperPod. Это кластер из восьми стендов NVL72, который включает в себя 288 процессоров Grace, 576 Blackwell Ultra Chips, 300 ТБ память HBM3E и производительность FP4 11,5 Exaflopa.
Наконец, Nvidia представила систему HGX B300 NVL16 — решение для тех, кто хочет чип с архитектурой x86, а не процессором Grace Arm.
Система имеет 16 графических процессоров B300 и некоторые процессоры x86, подключенные через nvlink. Nvidia не указывает, какие процессоры используются, но в прошлом использовались чипы AMD и Intel.
Компьютерные ускорители и системы, основанные на ультра, на базе Blackwell во второй половине этого года. Они будут предлагаться всеми крупными производителями серверов, а новые продукты будут предложены крупными поставщиками облачных услуг.
