跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/More_Slide5739·· 3 小时前AI 评分60

从 1.5B 到 120B 实测:用 Spanda 在本地模型上零 GPU 检测幻觉

Detecting hallucinations in local models without eating VRAM: What we learned testing 1.5B to 120B models

AI 导读

作者开源 Spanda(R_sc)指标,用确定性字符串归一化加 Shannon 熵在纯 CPU 上约 1.3 微秒检测本地模型幻觉,替代耗显存的 DeBERTa NLI 方案。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com