热点事件持续更新
双5090迁至Proxmox虚拟机后推理输出速度下降求排查
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
一位用户将两张5090从9950x游戏平台迁移到Proxmox虚拟机环境,新平台采用7402p CPU、256GB DDR4 ECC内存,GPU通过PCIe直通。在同样使用unsloth studio运行Qwen 3.8 27B Q8、262k上下文的条件下,迁移后infill速度从2500-3000提升到3800,但output速度从100-150 tok/s降至约60 tok/s,即输出速度约减半。用户在Reddit r/LocalLLaMA发帖求助,希望排查输出速度下降的原因。事件目前处于求助排查阶段,尚无进一步排查结果或解决方案的后续报道。
AI 根据报道生成 · 2 小时前更新
最新进展9月30日 11:47
用户报告双5090迁至Proxmox后output tok/s减半,发帖求助排查原因。报道时间线
沿着报道,了解事件的不同侧面。
9月30日
- Reddit r/LocalLLaMA (开源AI)双 5090 从游戏主机迁移到 Proxmox 后 output tok/s 速度减半的求助
一位用户将两张 5090 从 9950x 游戏平台迁到 Proxmox 虚拟机(7402p CPU、256GB DDR4 ECC,PCIe 直通),同样用 unsloth studio 跑 Qwen 3.8 27B Q8、262k 上下文后,infill 从 2500-3000 升到 3800,但 output 从 100-150 tok/s 降到约 60 tok/s。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。