На каком компьютере будет работать знаменитая нейронная сеть DeepSeek-R1: какие компоненты нужны и сколько они стоят
Одна из самых современных нейронных сетей может быть установлен на местном компьютере, но компоненты должны быть специально выбраны.
Печально известная бесплатная нейронная сеть DeepSeek-R1, которая работает на уровне платной модели CHATGPT O1, стала известна благодаря его чрезвычайно небольшим размерам для LLM с такого уровня-он может быть запущен буквально на домашнем компьютере, а не Мощные серверы в центрах обработки данных. И даже Речь идет не о «вырезанных» версиях нейронной сети, а о полноценном Depepeek-R1 без перегонки и квантования уровня Q8 (обеспечивая очень хороший баланс между точностью, скоростью и весом)С В Social Network x пользователь с прозвищем @Carrigmat собрал компьютерную конфигурацию, которая может выполнять эту модель локально, указывая на конкретные компоненты и их общую цену. Менее чем за 24 часа эта публикация собрала более 4,2 миллиона просмотров.
Нужный Материнская плата Гигабайт MZ73-LM0 или MZ73-LM1. Вам нужен Два розетки Epyc Иметь 24 канала ОЗУ DDR5, чтобы максимизировать емкость и полосу пропускания ОЗУ.
Как процессор Вам понадобится один из двух процессоров семьи AMD EPYC 9004 или 9005. чипсетС Даже 9115 или 9015 выполнит вашу работу, если вы хотите сэкономить как можно больше.
Выбор радиатор Это может быть проблематичным, так как процессоры AMD Epyc используют гнездо SP5, и большинство радиаторов предназначены для установки в корпусах сервера 2U/4U. Но в Aliexpress и Ebay вы можете найти подходящие модели. Лучше заменить встроенные вентиляторы Noctua NF-A12X25, чтобы работать более эффективно и тише.
Вы не должны сохранять от память — Вам понадобится 768 ГБ (чтобы соответствовать нейронной сети). Другими словами, 24 плитки DDR5-RDIMM требуется по 32 ГБ каждая.
SSD память Это должно быть размером 1 ТБ, чтобы удерживать DeepSeek-R1. В этом случае, чем быстрее флэш -накопитель, тем лучше, поскольку он должен быть сохранен более 700 ГБ модели в оперативной памяти.
Потребление энергии этой конфигурации на удивление низкое — до 400 Вт. Тем не менее, вам понадобится много кабелей для обоих розетков Epyc. И еще, будет работать Corsair HX1000I или более дешевая модель с аналогичными характеристиками.
В качестве коробки вы можете выбрать любую модель башни, но с монтажными стойками для материнских плат серверов, которые не доступны везде. Например, Phaunteks Entoo Pro 2 Server выполнит задание.
Общая стоимость компонентов и коробки составляет около 6000 долларов США.С
