Reddit r/LocalLLaMA (开源AI)· /u/Cautious_Chicken_604·· 3 小时前AI 评分45
64GB 内存的诅咒:Strata 让 Qwen3.8-Flash-Next 达到 ~60 t/s 却挤占系统内存
The curse of 64GB system RAM
AI 导读
一位配备 R9700、RTX 5060 Ti 和 64GB DDR5 的用户实测,Qwen3.8-Flash-Next 的 IQ3_XXS 量化在 Strata 上达到 ~60 t/s,而仅用系统内存 + R9700 只有 21 t/s,Vulkan 双卡跑 IQ4_XS 仅 15 t/s。
来源:Reddit r/LocalLLaMA (开源AI) · reddit.com