最近在做一个小项目，想用微调后的LLM驱动Agent，但遇到一个头疼的问题：模型明明在训练集上学会了调用指定工具（比如搜索、计算器），但一跑真实任务，它就开始“自由发挥”——比如让它查天气，它非要去调用一个不存在的“天气预报API”，甚至自己编造工具名。
我用的是Llama-3-8B，用LoRA微调了2000条工具调用数据，损失已经降到很低了。是数据里工具名称不够规范？还是微调后的模型缺乏“拒绝调用”的能力？或者需要再加一层指令模板约束？有没有大佬遇到过类似问题，求指点一下调参或者数据构造的方向。