跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/Thac0-is-life·· 2 小时前AI 评分7

求助:如何升级本地 LLM 硬件配置

Help me with a better hardware setup for Local LLm

AI 导读

一位使用 7900XTX 跑本地 LLM 的用户求助硬件升级方案。他目前用 Ryzen 5600X + 7900XTX + 64GB DDR4,跑 Qwen 3.8 27B 3-4bit 量化、128k-220k 上下文,速度可达 50 tk/s。他考虑购买 2-4 张 MI50 16GB(价格约为 32GB 版的三分之一)或再加一张 7900XTX,希望跑更大模型或同时运行多个智能体。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com