最近在做一个内部工具Agent，基于Qwen2.5-7B做LoRA微调，主要是让模型学会调用我们内部几个API（查库存、下单、算运费）。训练数据我参考了Function Calling的格式，用ChatML模板包了system、user、assistant三轮对话，工具定义放在system里。但微调完发现，模型偶尔能正确输出工具调用参数，但经常“自说自话”直接给用户答案，或者把参数格式写错（比如JSON少了逗号）。我已经调过学习率、epoch，也试过混入一些拒绝回答的负样本，效果还是不稳定。想问问大家，是不是工具调用的数据构造有特殊讲究？比如需要把工具描述写得特别详细？或者需要混合多轮带工具结果的样本？有没有踩过坑的朋友指点一下，谢谢！