跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/Any-Winter-4079·· 2 小时前AI 评分38

DDR4/PCIe4 vs DDR5/PCIe5 跑大语言模型:我在 Vast.ai 上做了预训练对比实测

DDR4/PCIe4 vs DDR5/PCIe5 for LLMs- I benchmarked them for pre-training. What are your thoughts?

AI 导读

一位开发者在 Vast.ai 租用两台机器(EPYC 7352 + 192GB DDR4/PCIe4 26.3 GB/s 对比 9975WX + 256GB DDR5/PCIe5 54.3 GB/s)实测预训练,DDR5/PCIe5 同 GPU 数量下快约 15-20%。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com