热点事件持续更新
用户实测 Ninfer 推理后端：Blackwell 上达 130-180 t/s
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月2日，Reddit r/LocalLLaMA 有用户分享了对 Ninfer 推理后端的实测结果。测试环境为 Blackwell MaxQ 显卡，运行模型为 qwen3.8-27b-nvfp4，配置为 Orcarouter - Dflash2 - MTP-7。实测速度达到 130-180 t/s，明显高于 llama-server 的表现。此外，Ninfer 在并行解码时几乎没有速度下降，并发能力可与 vLLM 比肩。目前事件仅为该用户的实测分享，尚无官方或其他来源的进一步验证报道。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月2日
- Reddit r/LocalLLaMA (开源AI)Ninfer 推理后端实测：Blackwell 上速度远超 llama-server，达 130-180 t/s
Reddit 用户在 Blackwell MaxQ 上用 Ninfer 后端运行 qwen3.8-27b-nvfp4（Orcarouter - Dflash2 - MTP-7），速度达 130-180 t/s，明显快于 llama-server，并行解码几乎无降速，并发能力可与 vLLM 比肩。
本事件热度走势
当前热度 9·可比范围峰值 10（10月2日 13:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。