Китайский бизнес переходит к восстановленным ускорителям NVIDIA A100 и H100 из -за проблем с поставками H20
Китайская индустрия искусственного интеллекта постепенно переходит к обновлению или использованию AI Accelerators NVIDIA A100 и H100 после еще одного диапазона ограничений по экспорту NVIDIA H20 заставляла компании искать альтернативы. Искусственно ослабленный ускоритель H20 должен был удержать Nvidia на китайском рынке, но чип был практически «изолирован», даже после того, как его продажи снова получили зеленый свет после временного запрета после того, как китайские регуляторы вызвали его безопасность, сообщает Tom’s Hardware, сообщает Digitimes.
Все это привело к быстрому увеличению спроса на более старые модели A100 и H100, а китайские компании «перенастроили» такие ускорители для использования в дешевых, но высокопроизводительных системах вывода. Последнее требует значительно меньше ресурсов, чем обучение II-модели, и рабочие нагрузки могут быть эффективно реализованы на относительно слабом оборудовании.
Следовательно, даже A100 с 80 ГБ HBM2E (2 ТБ/с), представленным в 2020 году, в некоторых случаях остается довольно полезным. Хотя архитектура Ampere уступает бункеру с точки зрения пиковой производительности, она по -прежнему эффективна для вывода благодаря своей относительно большой емкостью памяти и разработала программную экосистему CUDA. Для чат -ботов и систем рекомендаций выгодно использовать системы без самых современных чипов.
H100, представленный в 2022 году, значительно более мощный, чем A100 в тренировочных задачах. В то же время H20 изначально оптимизирован для менее ресурсоемкого вывода, но его возможности настолько снижаются, что его производительность в 3-7 раз ниже, чем у H100 и более чем в 30 раз медленнее в вычислительных задачах FP64. Другими словами, даже A100 все еще может быть более привлекательным для китайских покупателей, чем новый H20.
Поскольку никто еще не смог создать что -то, сравнимое с программной экосистемой NVIDIA CUDA, старые графические процессоры довольно востребованы. Тем более, что оборудование для вывода является менее требовательным во всех отношениях, и китайские центры обработки данных, очевидно, не имеют проблем с энергетикой и готовы платить за обновленную устаревшую электронику, даже при сниженной надежности.
В результате Nvidia оказалась в странной позиции. Однажды компания отключила 5,5 миллиарда долларов из-за непроданных акций H20- когда США решили полностью запретить свои поставки в Китай. После запрета компания резко увеличила производство H20, но в настоящее время сталкивается с нежеланием китайских властей увидеть эти чипы в стране. Тем не менее, его ускорители по -прежнему являются одним из основных катализаторов бума искусственного интеллекта в Китае. Другими словами, в фишках компании все еще преобладает Китай, но активность рынка серого рынка может снизить преимущества бизнеса с Китаем. Уже появилась информация о разработке нового акселератора, основанного на современной архитектуре Blackwell — хотя также ослаблена.
