跳到正文
热点事件持续更新

21M 模型外接 6.4B 参数查找表达 114M 稠密模型水平

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

2026年10月7日,一位开发者在 Reddit r/LocalLLaMA 上公开了一个业余研究项目:为一个 21M 参数的小模型配备一张 16.8M 行的查找表,整个查找表共 6.4B 参数,每个 token 实际使用约 33M 参数。据其报告,该模型在同样的 500M Wikipedia tokens 上训练后,性能约等于一个 114M 参数的稠密模型。此外,查找表还可以放在 SSD 上运行,演示硬件为 RX 9070 显卡。该消息目前仅有这一篇报道,尚未见第三方复现或作者之外的验证信息。

AI 根据报道生成 · 12 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. Reddit r/LocalLLaMA (开源AI)
    21M 模型配上 6.4B 参数查找表,性能媲美 114M 稠密模型,表还能放在 SSD 上运行(RX 9070)

    一位开发者公开了业余研究项目:给 21M 模型配一张 16.8M 行的查找表(6.4B 参数,每 token 使用 33M),性能约等于在同样 500M Wikipedia tokens 上训练的 114M 稠密模型。

本事件热度走势

当前热度 7·可比范围峰值 10(10月7日 02:00)·近 24 小时可比范围变化 –

02.557.51010月7日02:0010月7日06:0010月7日09:0010月7日13:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。