NInfer 4080 适配 16GB GPU 实现 100k 上下文

2026年10月4日，开发者 /u/roofkid 在 Reddit r/LocalLLaMA 发布开源项目 NInfer 4080。据该报道，该项目可在 16GB 显存的 RTX 4080 上运行 ISTA-DASLab 量化的 Qwen 3.8 27B GSQ 模型，并支持 100k 以上的上下文长度。目前事件处于初期阶段，尚无后续进展或第三方复现的报道。

AI 根据报道生成 · 42 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。