用户发布Qwen3.8 Flash低比特量化版

2026年10月2日，Reddit r/LocalLLaMA 社区有用户发布 Qwen 3.8 flash 基础模型的低比特量化版本。据该帖子介绍，此量化版本保留了 95% 的 bf16 精度，且在长上下文场景下性能不出现衰减。推理速度约为每秒 40 个 token（40 tok/s），并为运行 256k 上下文和 RoPE 留出了余量。发布者表示仍在继续优化推理性能。目前暂无后续评测或其他进展报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。