跳到正文
热点事件持续更新

社区发布Qwen 27B量化版,单张24GB显卡跑满131k上下文

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月1日,用户 /u/bjivanovich 在 Reddit r/LocalLLaMA 发布 ATX-Swift-1.5-Qwen3.8-27B-Uncensored-MTP 量化套件。该套件在单张 24GB 的 RTX 3090 上以 i1-Q5_K_M 精度跑满 131,072 tokens 上下文:在约 80k-98k tokens 的深上下文下 sustained 速度为 50-53.72 t/s,峰值超过 63 t/s。这使一张消费级显卡即可在满上下文长度下保持可用的生成速度。目前事件仅有此一条报道,尚无后续测试、复现或官方回应的消息。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月1日
  1. Reddit r/LocalLLaMA (开源AI)
    ATX-Swift-1.5-Qwen3.8-27B 量化版发布:单张 RTX 3090 在 131k 上下文下维持 50-65+ t/s

    作者 /u/bjivanovich 发布 ATX-Swift-1.5-Qwen3.8-27B-Uncensored-MTP 量化套件,在单张 24GB RTX 3090 上以 i1-Q5_K_M 精度跑满 131,072 tokens 上下文,深上下文(约 80k-98k tokens) sustained 速度 50-53.72 t/s,峰值超 63 t/s。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。