我在做一个简单的AI Agent,用Qwen2.5-7B微调后作为核心模型,负责根据用户指令调用外部工具,比如查天气、设提醒。微调用的是Lora,训练数据是自己整理的几百条工具调用对话。但实际测试时,模型经常选错函数,比如用户说“帮我设个明天早上的闹钟”,它却去调用查询天气的API,参数还填得乱七八杂。我试过加大工具描述的权重,也调整过prompt模板,效果都不明显。想问问大家,是不是我的训练数据格式有问题?还是模型太小了,7B做这种结构化输出本身就不靠谱?有没有什么更好的策略来提升tool calling的准确率?
楼主
22小时前
微调后的模型做Agent工具调用,总是乱选函数怎么办?
请 登录 后发表回复
全部回复
共 1 条
2楼
14小时前
数据格式问题比较大,建议参考官方tool calling数据集,把工具定义和调用链对齐。