热点事件持续更新
FactorEngram：基于级门控的因子化n-gram记忆
1 篇报道1 个报道来源14 小时前更新
先了解这件事
AI 综述
2026年10月6日，Reddit r/LocalLLaMA 报道了 FactorEngram 论文。该方法是一种带基向量级上下文门控的分解式 n-gram 记忆技术：在共享基向量字典上检索稀疏正则化系数，使相关模式能够复用公共组件，并由骨干网络的隐状态对每个记忆分量进行单独门控。实验在 340M 和 1B 参数的 Transformer 骨干上进行，结果显示 FactorEngram 提升了语言建模和下游任务表现。消融实验发现，将记忆分支插入中间层注意力子层之前是有效的配置。目前该工作以论文形式发布，尚未见后续应用或复现报道。
AI 根据报道生成 · 13 小时前更新
最新进展10月6日 23:18
FactorEngram 论文发布，在 340M/1B 骨干上提升语言建模与下游表现。报道时间线
沿着报道，了解事件的不同侧面。
10月6日
- Reddit r/LocalLLaMA (开源AI)FactorEngram 论文：基于基向量级门控的分解式 N-gram 记忆
FactorEngram 是一种带基向量级上下文门控的分解式 n-gram 记忆方法，在共享基向量字典上检索稀疏正则化系数，让相关模式复用公共组件，并由骨干网络隐状态对每个记忆分量单独门控。在 340M 和 1B 参数 Transformer 骨干上，FactorEngram 提升了语言建模和下游任务表现，消融实验发现将记忆分支插入中间层注意力子层之前是有效配置。
本事件热度走势
当前热度 7·可比范围峰值 10（10月7日 01:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。