Reddit r/LocalLLaMA (开源AI)· /u/FactorInternal3395·· 4 小时前AI 评分14
Bartowski/AtomicChat 量化 vs Tiel Coder:Ornith 1.5 35B A3B 该选谁的量化版本?
Bartowski/AtomicChat Ornith 1.5 35B A3B + sharp template or Tiel Coder 35B A3B?
AI 导读
Reddit 用户发帖询问:Peculiar Ragdoll 的 Tiel Coder 35B A3B 实际上就是 Ornith 1.5 35B A3B,只是内置了"面向编码"的 imatrix 量化和 sharp 聊天模板。发帖人比较了直接用 Tiel Coder 权重,还是自己加模板、改用 Bartowski 或 AtomicChat 等成熟量化者的版本,核心疑问是哪个量化者质量更好。
来源:Reddit r/LocalLLaMA (开源AI) · reddit.com