Reddit r/LocalLLaMA (开源AI)· /u/MD_Reptile·· 3 小时前AI 评分27
用挖矿配件搭建的 flash next 推理平台实测
Flash next rig born from mining parts.
AI 导读
网友用 3 张 3060 12GB 在开放式矿架上运行 flash next,配合 strata 使用 IQ3 量化达到 38-40 t/s,而 llama.cpp 仅 13.2 t/s。平台配置为 Kingwin 8 卡矿架、Asus prime z370p 主板、8 代 i7、64GB ddr4 和 1000w PSU,并询问是否有人也在用旧挖矿硬件获得不错效果。
来源:Reddit r/LocalLLaMA (开源AI) · reddit.com