Reddit r/LocalLLaMA (开源AI)· /u/IngwiePhoenix·· 3 小时前AI 评分10
双卡 AMD R9700 推理:PCIe Gen4 相比 Gen5 的性能损失有多大?
Penalties of PCIe generations? (2x R9700)
AI 导读
一位用户购入两块 R9700 GPU(合计 64GB VRAM),计划用 llama.cpp + ROCm 并配合 llama-swap 做 VRAM 池化推理,在 r/LocalLLaMA 询问 PCIe Gen4 与 Gen5 对推理的影响。为节省成本,他倾向 AMD CPU 搭配 DDR4/PCIe Gen4 平台,因为 DDR5 RDIMM 价格过高。
来源:Reddit r/LocalLLaMA (开源AI) · reddit.com