IBM представила AI-ускоритель Spyre Accelerator

IBM объявила, что специализированные ускорители искусственного интеллекта Spyre Accelerator начнут доступны в серверах Z17 и Linuxone 5 с конца этого месяца, а системы Power11 будут оснащены этими платформами в начале декабря.

О подготовке Spyre Accelerator стало известно в августе прошлого года. Это идея исследовательского отдела IBM. Ускоритель ориентирован на задачи по получению малозадержных выводов. В частности, устройство подходит для генеративных приложений и агентов искусственного интеллекта.

Продукт представляет собой плату расширения PCIE 5.0 x16, включающую 32-ядерный нейронный процессор IBM. Он также имеет 128 ГБ LPDDR5. Всего в ускорителе 25,6 миллиардов транзисторов; При производстве использовалась технология 5NM. Запрошенное энергопотребление составляет 75 Вт.

IBM отмечает, что использование традиционных процессоров и графических процессоров для ресурсоемких задач искусственного интеллекта порождает проблемы, связанные с масштабируемостью и эффективностью. Продукты Spyre Accelerator были разработаны, чтобы помочь преодолеть эти недостатки. Если необходимо, В системе Power11 можно объединить до 16 плат и в системе Z17 — до 48 плат. Наряду с процессорами Telum II, которые лежат в основе Z17 и Linuxone 5, компании смогут одновременно выпускать несколько моделей искусственного интеллекта. Возможны локальные выводы, сводящие к минимуму передачу информации сторонним сервисам: это уменьшает задержку и повышает безопасность.

Потенциальными клиентами Spyre Accelerator являются финансовые организации, розничные торговцы, государственные учреждения, учреждения здравоохранения, промышленные предприятия и многие другие.