Huawei предлагает программное обеспечение «замены» воспоминаний о санкциях HBM для ускорения искусственного интеллекта

Китайские разработчики систем искусственного интеллекта, которые ограничены в доступе к современным вычислительным ресурсам из -за санкций США, пытаются компенсировать возможное отставание различными способами. Huawei предложил программный инструмент с открытым исходным кодом, предназначенный для компенсации отсутствия доступа к ускорителям памяти HBM для китайских разработчиков.

Программный инструмент Huawei называется Unified Cache Manager (UCM), и его цель -оптимизировать доступ к данным в соответствии с предварительно определенной иерархией типа памяти. Информация, хранящаяся в HBM, DRAM и SSD, может быть ускорена этим инструментом в системах искусственного интеллекта, ориентированных на создание логических выводов.

В специализированных тестах UCM уже доказала свою эффективность, уменьшив задержку доступа к памяти до 90% и увеличивая пропускную способность системы на 22 раза в самом замечательном случае. UCM будет доступен работникам Huawei в следующем месяце, а затем он появится для более широкого спектра китайских систем искусственного интеллекта. Это должно помочь уменьшить зависимость китайской индустрии искусственного интеллекта от чипов памяти HBM, которые производятся южнокорейским SK Hynix и Samsung, а также американской технологией Micron. Поставки этой памяти в Китай запрещены санкциями США, и китайские производители только сейчас начинают его производить, а не в самом быстром поколении.

Прогресс препятствуют санкциям на предложение HBM -производящего оборудования в Китае, которое также навязывается властями США. Недавно представители Китая призвали своих американских коллег снять ограничения на поставки памяти HBM в небесную империю. В то же время они призывают китайских разработчиков прекратить использование US, отправленного Nvidia H20.