数据不出楼的全本地 LLM 技术栈怎么做

Reddit r/LocalLLaMA 用户讨论构建数据无法离开本地的 on prem LLM 技术栈：运行时用 llama.cpp / vLLM / Ollama，模型选 Qwen 或 Llama 族，向量库用 pgvector 或 Qdrant。