跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/parepeg·· 3 小时前AI 评分40

LFM2.5 2.6B 与 MiniCPM5 2B 小模型实测对比:LFM2.5 更快更省内存

LFM2.5 2.6b vs MiniCPM5 2b

AI 导读

Reddit 用户在 M1 Air 上实测 LFM2.5 2.6B 与 MiniCPM5 2B 的小型智能体任务表现,LFM2.5 2.6B 综合胜出。LFM2.5 在 32k context 下 pp 200 t/s、tg 22 t/s,仅用约 2.5gb 内存,但对话变长后容易幻觉;MiniCPM5 为 pp 162 t/s、tg 16 t/s,约 3.8gb 内存,且常以中文回复英文提示。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com