Reddit r/LocalLLaMA (开源AI)· /u/roofkid·· 1 小时前AI 评分60
开发者开源 NInfer 4080，在 RTX 4080 16GB 上以 100k 上下文运行 Qwen 3.8 27B GSQ
I built Ninfer 4080 for 16GB class GPUs
AI 导读
作者 /u/roofkid 发布开源项目 NInfer 4080，可在 RTX 4080 16GB 上运行 ISTA-DASLab-Qwen-3.8-27B-GSQ 并支持 100k 以上上下文。
来源：Reddit r/LocalLLaMA (开源AI) · reddit.com