Reddit r/LocalLLaMA (开源AI)· /u/Creative-Type9411·· 2 小时前AI 评分21
网友装完第 4 张 Tesla T4,组成 64GB 显存的本地 LLM 推理平台
Finally got my 4th card in (64gb total)
AI 导读
一位 r/LocalLLaMA 网友装齐第 4 张 Tesla T4(共 64GB 显存),基于 Xeon W3225、SuperMicro X11SPA-T 主板、768GB DDR4 ECC 内存和 4 块 1TB Samsung 870 EVO 组 RAID,运行 Ubuntu、llama.cpp 和 openwebui。
来源:Reddit r/LocalLLaMA (开源AI) · reddit.com