跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/Studio271·· 3 小时前AI 评分25

strata-swift-iq3_xxs 推理中随机插入无关信息

strata-swift-iq3_xxs randomly interjecting completely unrelated information in thoughts

AI 导读

一位用户在 5070ti 上以 iq3_xxs 量化运行 strata-swift-iq3_xxs,获得相比 Qwen3.8-27b-iq4xs 约 2~3 倍性能提升,但在清理冗余代码的任务中发现其思维链里突然插入了一段关于李光耀的无关维基式内容,其余推理(如用 probe_eol.js 检查 CRLF/LF)仍正常执行。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com