跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/TheRealJesus2·· 2 小时前AI 评分34

Dwarfstar quants:在 M3 Ultra 96GB 上本地运行 Qwen 3.8 的量化方案

Dwarfstar quants

AI 导读

Dwarfstar quants 采用针对少数模型定制的量化技术,需配合其专有软件运行。有用户在 M3 Ultra 96GB Studio 上跑通 Qwen 3.8,反馈速度快、质量不错,且留有内存余量运行其他程序。发帖人想了解其他用户的使用体验。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com