热点事件持续更新
社区发布Qwen 27B量化版,单张24GB显卡跑满131k上下文
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月1日,用户 /u/bjivanovich 在 Reddit r/LocalLLaMA 发布 ATX-Swift-1.5-Qwen3.8-27B-Uncensored-MTP 量化套件。该套件在单张 24GB 的 RTX 3090 上以 i1-Q5_K_M 精度跑满 131,072 tokens 上下文:在约 80k-98k tokens 的深上下文下 sustained 速度为 50-53.72 t/s,峰值超过 63 t/s。这使一张消费级显卡即可在满上下文长度下保持可用的生成速度。目前事件仅有此一条报道,尚无后续测试、复现或官方回应的消息。
AI 根据报道生成 · 2 小时前更新
最新进展10月1日 00:42
量化套件发布,单张RTX 3090以i1-Q5_K_M精度跑满131k上下文,速度50-63+ t/s。报道时间线
沿着报道,了解事件的不同侧面。
10月1日
- Reddit r/LocalLLaMA (开源AI)ATX-Swift-1.5-Qwen3.8-27B 量化版发布:单张 RTX 3090 在 131k 上下文下维持 50-65+ t/s
作者 /u/bjivanovich 发布 ATX-Swift-1.5-Qwen3.8-27B-Uncensored-MTP 量化套件,在单张 24GB RTX 3090 上以 i1-Q5_K_M 精度跑满 131,072 tokens 上下文,深上下文(约 80k-98k tokens) sustained 速度 50-53.72 t/s,峰值超 63 t/s。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。