最近想把开源模型拉到本地跑，主要做代码补全和文档问答。手头只有一张3090 24G，试了Qwen2.5-Coder的7B和14B，7B用vLLM跑还行，14B量化到4bit勉强能起但上下文一长就爆显存。看网上有人说双卡4090，也有人说直接上A6000，感觉成本一下子上去了。想问问大家实际生产/半生产环境都怎么配的？有没有性价比高一点的方案，还是说干脆用API算了……挺纠结的。