最近在做一个内部用的AI客服Agent,基于Llama 3微调了模型,本地跑通了LangChain + RAG的流程。但真要部署到公司服务器上就懵了——不知道用vLLM还是TGI?显存不够,想用量化又怕掉效果。还有,Agent要调用外部API,生产环境里异常处理和重试怎么设计?有没有大佬分享一下从Notebook到生产部署的完整链路踩坑经验?最好是低成本方案,公司预算有限。