Одна особенность процессоров AMD Ryzen X3D дает вам большое преимущество перед конкурентами. Однако на этот раз речь идет не об игровой производительности.
В течение многих лет серия процессоров AMD Ryzen X3D ассоциировалась в основном с играми, поскольку дополнительная память 3D V-Cache обычно давала там наибольший эффект. Однако последние тесты показывают, что тот же механизм может иметь смысл и за пределами игр. Это локальные приложения искусственного интеллекта типа RAG, в которых процессор по-прежнему выполняет важную часть работы, хотя сама генерация ответов часто возлагается на графический процессор.
Дополнительный кэш в процессоре AMD Ryzen X3D оказывается реальным преимуществом в локальных RAG-задачах, где важен быстрый векторный поиск, а не сама мощность графического процессора.
AMD Ryzen 7 5800X3D вернется. Производитель готовит специальный вариант AM4 10th Anniversary Edition.
Суть довольно проста. В конвейерах RAG (Retrival-Augmented Generation) большое значение имеют векторный поиск и построение индексов, а это задачи, которые сильно зависят от задержек памяти и поведения кэша. Тест x3d-rag-benchmark был создан для проверки влияния архитектуры ЦП и емкости кэша на локальные реализации RAG на одной машине объемом 100–200 тысяч. векторы. Это важное предостережение, поскольку речь идет не о больших распределенных базах данных, а о сценарии, более близком к компьютеру энтузиаста, разработчика или небольшой команды.
Тест процессора Qualcomm Snapdragon X2 Elite Extreme против Apple M5 Max, Intel Core Ultra X7 358H и AMD Ryzen AI Max+ 395
В тестах, описанных GiggleHD и WCCFtech, модели AMD Ryzen X3D могли достигать 88 процентов. быстрее аналогов без 3D V-Cache в пакетном поиске 100К, а при 200К Ryzen 7 9850X3D должен был давать более 50 процентов. преимущества перед Ryzen 7 9700X. Интересно, что 8-ядерный X3D также оказался быстрее 16-ядерного Ryzen 9 9950X в задачах, особенно чувствительных к кэшу. Для пользователя это означает одно: в локальном RAG «больше ядер» не всегда побеждает «лучшую иерархию памяти».
EKWB рекомендует использовать водяное охлаждение для процессора AMD Ryzen 9 9950X3D2. Стандартный кулер может снизить производительность чипа
По сравнению с конкурентами Intel, картина не совсем однозначна, поскольку в некоторых тестах окончательное время отклика больше зависит от графического процессора, и различия сглаживаются. Однако в долгосрочной перспективе можно увидеть интересную тенденцию. Если локальный ИИ и небольшие RAG-системы приобретут популярность, процессоры с очень большой памятью L3 могут получить вторую жизнь за пределами игр. Это не означает, что Ryzen X3D становится лучшим процессором для каждой задачи ИИ, но сегодня в своей нише он выглядит гораздо серьезнее, чем всего несколько месяцев назад.
Источник: WCFFtech, x3d-rag-benchmark, AMD 3D V-Cache, GiggleHD.