Ускорители искусственного интеллекта достигли предела скорости HBM, и проблема серьезнее, чем нехватка памяти
По отраслевым оценкам, современные ИИ-ускорители достигли такого этапа своего развития, когда пропускная способность интерфейса памяти становится барьером для дальнейшего масштабирования производительности.. Недостаток памяти или объема памяти в этом отношении отходит на второй план, и устранение этого барьера в основном зависит от разработчиков графических процессоров и больших языковых моделей. По словам соучредителя Majestic Labs Ша Рабии,…