Hugging Face Blog·· 2026-07-23精选AI 评分68
Diffusers 原生集成 Nunchaku Lite，支持 4-bit SVDQuant 推理
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Hugging Face 宣布 Diffusers 通过新的 Nunchaku Lite 路径原生加载 Nunchaku SVDQuant 4-bit 检查点，调用 from_pretrained() 即可，无需单独推理引擎或本地 CUDA 编译。
推荐理由
原文给出基准数字和完整量化工作流，读者可以据此评估在消费级 GPU 上跑大扩散模型的可行路径。
来源：Hugging Face Blog · huggingface.co