Reddit r/LocalLLaMA (开源AI)· /u/EvolvingDior·· 1 天前AI 评分20
DDR5 超频加速 MoE 模型 Prefill 与 Decode 实测
Overclocking DDR5 For Faster MoE Prefill and Decode
AI 导读
一位用户在 AMD 7950X(128GB DDR5-5600)上将内存从 3600MHz 超频至 4800MHz,实测带宽提升 36%,配合 llama.cpp 定制 SYCL 后端在 Intel B70 上运行放不进 VRAM 的 MoE 模型。
来源:Reddit r/LocalLLaMA (开源AI) · reddit.com