WaveFront Decoding加速循环语言模型解码

2026年10月6日，Reddit r/LocalLLaMA（开源AI板块）发布了关于 WaveFront Decoding（WFD）的报道。报道介绍，WFD 是一种免训练的自推测解码框架，针对 looped（循环）语言模型的解码延迟问题而设计：此类模型重复调用权重共享的模块，导致解码速度受限。WFD 的核心做法是将处于不同深度（即不同迭代轮次）的 token 状态组织成“对角波前”（diagonal wavefront）结构，使得草拟（draft）与验证（verify）两个阶段能够在同一批 recurrent-block 调用中并发执行，从而实现并行加速，而无需对模型进行额外训练。该报道为目前关于这一事件的唯一报道，尚未见其他来源的测试数据、基准结果或后续进展的补充信息，也未发现与早先报道相矛盾之处。事件的后续发展与社区对该框架的实际评测情况有待进一步报道。

AI 根据报道生成 · 15 小时前更新