跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/Brilliant-Hall1387·· 9 小时前AI 评分51

Precisit 开源 Sherry 3:4 三值量化格式 WebGPU 运行时,1.6 MB 模型下 Connect Four 棋力追平 7.8 MB int8 版本

Sherry's 3:4 ternary format (1.375 bits per weight) running on WebGPU: a 1.6 MB model that plays Connect Four as well as its 7.8 MB int8 version

AI 导读

Precisit 团队发布基于 Sherry 3:4 三值格式的 WebGPU 浏览器运行时(MIT 协议),一个 7.4M 参数单遍打分模型仅 1.59 MB、1.375 bits per weight,对 depth-4/depth-6 bot 胜率 0.93/0.91,追平 29.7 MB fp32 稠密版(0.92/0.89)。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com