Reddit r/LocalLLaMA (开源AI)· /u/sloptimizer·· 18 小时前AI 评分55
vLLM 借助 tcclaviger 支持 expert RAM offloading，本地四张 R9700 跑通 DeepSeek-V4-Flash-Vision-Exp
RAM Offloading with vLLM - tcclaviger appreciation post
AI 导读
vLLM 在 tcclaviger 的贡献下新增 expert RAM offloading 支持。
来源：Reddit r/LocalLLaMA (开源AI) · reddit.com