跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/poofph·· 5 小时前AI 评分11

双 5090 从游戏主机迁移到 Proxmox 后 output tok/s 速度减半的求助

infill and output tok/s speeds after "new" build compared to old questions

AI 导读

一位用户将两张 5090 从 9950x 游戏平台迁到 Proxmox 虚拟机(7402p CPU、256GB DDR4 ECC,PCIe 直通),同样用 unsloth studio 跑 Qwen 3.8 27B Q8、262k 上下文后,infill 从 2500-3000 升到 3800,但 output 从 100-150 tok/s 降到约 60 tok/s。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com