AMD официально объявил, как запустить модель мышления Depepek R1 на обычном компьютере (видео)

AMD официально объявил, как запустить модель мышления Depepek R1 на обычном компьютере (видео)

AMD публикует подробные инструкции по локальному запуску пользовательского компьютера Deepeek-R1. Компьютерная система с процессором Ryzen требуется с аппаратной на основе XDNA на основе аппаратной основы или компьютера с графической картой Radeon RX 7000.

Давайте напомним вам, что недавно была представлена ​​«высокопроизводительная» небольшая версия модели искусственного интеллекта DeepSeek-R1, которая достаточно компактна для работы над потребительским оборудованием. Стоит отметить, что модели DeepSeek, как правило, являются небольшими аппаратными требованиями, пример, модель DeepSeek-V3 изначально была обучена кластеру только 2048 Nvidia H800 Accelerator.

Инструкции AMD описывают все, что необходимо для запуска DeepSeek R1 на местном уровне на персонализированной системе AMD на основе аппаратного обеспечения. Приложение LM Studio У него есть установщик крупных языковых моделей с одним кликом, специально разработанным для процессоров Ryzen AI. Пользователи AMD также могут использовать его для установки R1. В видео компания также показывает, как следует настроить приложение для конкретного оборудования, и объясняет максимальное количество параметров LLM, поддерживаемых данным оборудованием.

Последнее в значительной степени зависит от объема доступной памяти. Например видеокарты Radeon RX 7600 XT, RX 7700 XT, RX 7800 XT, RX 7900 GRE и RX 7900 XT модели поддержки до Deepseek-R1-Distil-Qwen-14b с 14 миллиардами параметров. Флагманская карта Radeon RX 7900 XTX может работать с моделями до DeepSeek-R1-Distill-QWEN-32B с 32 миллиардами параметров. И Radeon RX 7600, с 8 ГБ памяти на борту, поддерживает модели до Deepseek-R1-Distil-Llama-8b с 8 миллиардами параметров.

НоутбукиОсновываясь на процессорах Ryzen 8040 и Ryzen 7040 с 32 ГБ оперативной памяти, а также на системах, основанных на процессорах Ryzen AI 9 HX 370 и Ryzen AI 9 365 с 24 ГБ или 32 ГБ оперативной памяти может выполнять модели до Depepeek-R1-Dist Llama-14B. Ryzen Ai Max+ 395 ноутбуков поддерживают модели Deepseek-R1-Distil-Llama-70b с 70 миллиардами параметров, но только с 64 или 128 ГБ оперативной памяти. Версии ноутбука 32 ГБ могут работать с моделями до DeepSeek-R1-Distill-QWEN-32B с 32 миллиардами параметров.

Depepeek R1, новая модель II, за ночь в мире, поскольку его затраты на обучение были в 11 раз ниже, чем у конкурентных и моделей. Два дня назад он вызвал рекордную потерю в размере 589 миллиардов долларов в рыночной капитализации Nvidia. Depepeek-R1 полагается на экстремальные уровни оптимизации для достижения 11-кратного повышения эффективности. DeepSeek-R1 работает не только на NVIDIA и AMD-акселераторах, Также появилась информация о поддержании акселераторов Huawei, что очень интересно.

Подписаться
Уведомить о
guest

0 комментариев
Старые
Новые Популярные
Межтекстовые Отзывы
Посмотреть все комментарии