5KB x86-64 汇编 Gemma-2B 推理引擎开源

2026年10月4日，一位开发者在 Reddit r/LocalLLaMA 版块分享了一个用纯 x86-64 汇编（使用 FASM 汇编器）编写的 Gemma-2B 推理引擎。该项目总二进制大小仅 5.2 KB，不依赖任何 C/C++ 运行时，也没有 PyTorch 依赖。据开发者介绍，该引擎在 CPU 上以 FP16 精度运行时达到 4.6 tok/s 的推理速度。该分享属于开源 AI 社区（Reddit 开源AI）讨论内容，目前报道仅提及项目发布与性能数据，尚无后续采用或更新进展的报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。