跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/Otherwise-Tangelo-52·· 4 小时前AI 评分9

Reddit 网友咨询:Blackwell RTX 4000 与 RTX 3060 双卡组合运行本地大模型

Blackwell + consumer GPU

AI 导读

一位 Reddit r/LocalLLaMA 用户拥有一张 24 GB 显存的 Blackwell RTX 4000(低于 MSRP 购入)和一张 12 GB 的 RTX 3060,询问能否组合两块 GPU 加载最佳模型用于编码任务,以及 tensor split 是否适用于这一组合。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com