最近在折腾用ollama部署Qwen2.5-7B，想给个人知识库做个简单的Agent。但发现两个问题：一是单机跑7B模型，推理速度太慢，一个简单查询要等十几秒；二是拿它调function calling，经常理解错参数，要么乱传要么干脆不调。看网上都说本地部署保护隐私、可定制，但实际用起来体验跟API差太多了。有没有在真实项目里把本地大模型当Agent核心用的？你们是怎么解决速度和准确率问题的？还是说这种玩法只适合跑跑demo，真要干活还得上云端API？求指点。