最近在折腾把Qwen2.5-7B部署到本地，配合LangChain做一个简单的客服Agent。用vLLM起服务，看起来挺正常，但一接入多轮对话或者工具调用的流程，过一会儿就OOM或者直接卡死，日志也没啥明确报错。我看了一下显存占用，好像也没跑满，但就是不稳定。想问问老哥们，这种本地部署做Agent的场景，是不是得用量化版本？还是说7B本身就不太适合跑复杂Agent逻辑，必须得上14B或者加长上下文？另外，工具调用的prompt格式是不是对显存消耗特别大？有没有比较稳的部署配置或者框架推荐？求指点，孩子快被整不会了。