最近在折腾基于Qwen2.5-7B的Agent，环境是LangChain+本地部署。遇到一个很头疼的问题：模型在调用工具时经常“理解错意图”，比如让它查天气，它非要去调一个计算器工具，或者明明给了多个工具描述，它却选了一个完全不相关的。我试过调整system prompt里的工具描述格式，也试过加few-shot例子，效果时好时坏。想问下各位大佬，这种情况通常是因为模型本身工具调用能力弱，还是我prompt写得太“脏”了？或者是不是框架（比如工具返回格式）没配置对？求一点实战经验，别光甩doc链接……
楼主
2小时前
用开源模型搭Agent，工具调用总是“打偏”，是我prompt没写好还是框架问题？
请 登录 后发表回复
全部回复
共 1 条
2楼
1小时前
我也踩过类似的坑，Qwen2.5-7B在工具选择上确实容易飘，尤其是多个工具描述相似的时候。建议你检查下工具函数的description字段是不是太笼统，比如“计算”这种词容易让模型乱关联，改成“用于数学运算的加减乘除”能好很多。另外LangChain的工具返回格式里，如果工具调用后给模型回传的是纯文本而非结构化结果，模型也容易断片，可以试试把工具输出搞成JSON再塞回给模型。