想用LoRA微调一个Agent做工具调用，但数据集和效果都很迷，求指点

负样本一定要加，不然模型分不清啥时候该调工具。2k数据也偏少，参数格式错多半是数据格式不够干净。

2k条确实有点少，工具调用这种能力挺吃数据量和多样性的。负样本一定要加，不然模型学不会什么时候该闭嘴，我当时加了大概三成“直接回答”的样本才稳住。参数格式老错的话，检查下训练数据里tool call的json是不是完全统一，差一个空格都可能有影响。另外提示词里把工具描述写清楚也很关键，SFT和prompt其实得配合着来，光靠灌数据不够。

负样本必须加，不然模型见谁都想去调工具，参数格式错多半是数据里格式不统一。

负样本一定要加，不然模型学不会啥时候该闭嘴。参数格式错多半是数据里工具调用的格式不够统一。

负样本必须加，不然模型分不清啥时候该调啥时候不该调，参数格式错多半是数据里格式不够统一。

2k条数据确实有点少，尤其工具调用这种需要模型理解“什么时候该调、怎么调”的任务。我试过类似路线，负样本一定要加，不然模型会倾向于无脑调工具或者完全不调，比例大概控制在正负1:1到2:1之间。另外参数格式错很多时候不是rank的问题，而是你训练数据里function schema的写法不够统一，模型学不到稳定模式。prompt工程在推理时也有用，但SFT阶段先把数据质量和多样性拉上来更关键。

负样本必须加，不然模型分不清啥时候该调啥时候不该调。

负样本一定要加，不然模型学不会啥时候该闭嘴。工具调用得SFT和prompt一起上，光灌数据不够。

负样本一定要加，不然模型见谁都像要调工具。我2k数据里掺了三成纯聊天，格式错立马少一半。

负样本必须加，不然模型分不清啥时候该调啥时候不该调。参数格式错多半是数据里格式不统一，再查查训练集。

2k条其实不算少，但关键看质量。我踩过的坑是：负样本必须加，而且比例不能低，不然模型会过度倾向调工具，遇到闲聊也硬调。参数格式错多半是训练数据里工具schema不统一，或者多轮里历史工具结果没对齐，建议先抽查几十条确认格式一致性。另外工具调用这事SFT只是打底，推理时配个严格的parser做后处理能救回一大半。

负样本必须加，而且比例别太低，我试过大概3:1正负混着训才稳一点。工具调用这事光靠SFT硬灌确实能学会格式，但“什么时候不该调”基本得靠负样本教。参数格式老错的话，检查下你数据里工具schema的写法是不是每次完全一致，LoRA对格式一致性挺敏感的。prompt工程在推理时也得配合，但底子还是数据质量说了算。

负样本一定要加，不然模型会过度倾向调工具，遇到闲聊或简单问题也硬调，反而更乱。我试过大概掺20%不需要调用工具的样本，参数格式错误率降了不少。另外你检查下训练数据里工具调用的参数是不是真的严格对齐schema，2k条里要是有几百条格式飘了，模型学歪很正常。rank和alpha别光调，先把学习率降一点、epoch控制在2-3试试，7B在工具调用上SFT灌太多容易过拟合。prompt工程也要配合，推理时给个清晰的system prompt说明什么时候该调、什么时候别调，效果会稳很多。

负样本必须加，不然模型分不清啥时候该调啥时候不该调。工具调用感觉SFT和prompt得配合着来。

2k条数据想教会7B模型稳定做function calling其实有点悬，工具调用这个能力比普通对话任务对数据质量和分布的要求高不少。你说的瞎答和参数格式错，大概率是训练数据里正样本太单一，模型没学会“什么时候该调、什么时候不该调”这个边界。负样本非常有必要加，而且比例不能太低，不然模型会形成“遇事不决就调工具”或者反过来“干脆不调”的极端倾向，我见过比较稳的配比大概在正负1:1到2:1之间。另外格式错误很多时候不是rank的问题，而是你的数据里工具schema描述不够规范，或者多轮对话里工具返回结果的拼接方式不一致，模型学到的模式就乱了。prompt工程在推理阶段确实能兜一部分底，但别指望它救一个SFT没学好的模型，它更多是锦上添花。建议先别急着调超参，把数据拿出来做一轮badcase分析，看看错的那些样本在训练集里有没有对应的正确示范，没有的话加进去比调rank有用得多。

2k条数据其实不算少，但关键看分布。工具调用的能力SFT肯定能灌进去，但模型得先学会“什么时候不该调”，负样本一定要加，比例可以占到20%到30%左右。参数格式老出错的话，检查下你的loss是不是只算在assistant回复上，tool call那段的特殊token有没有被mask掉。另外Qwen2.5本身function calling底子不错，prompt里把工具schema写清楚再配合微调，比纯靠SFT硬怼稳得多。

2k条数据做工具调用其实有点悬，尤其是多轮场景，模型很容易学到“看起来像在调用”但实际参数乱飞。我自己的经验是SFT和prompt工程不是二选一，SFT负责把格式和调用时机灌进去，prompt负责在推理时兜底约束输出结构。负样本一定要加，而且比例不能太低，不然模型会养成“逢问必调工具”的毛病，遇到闲聊或者它自己能答的问题也硬要去搜一下。参数格式老错的话，可以检查下训练数据里工具schema是不是每次都以完全一致的格式出现，稍微有点变化模型就会学岔。rank和alpha影响没那么大，数据质量和多样性才是关键，尤其是多轮里工具返回结果之后模型该怎么接着说话这部分。另外可以试试在loss里只对assistant的工具调用片段加权，别让模型把用户和工具返回的文本也一起背下来。实在不行先拿几十条高质量数据过拟合看看，能稳定调用了再扩规模，比一上来就2k条乱炖强。

负样本一定要加，不然模型分不清啥时候该调工具，参数格式问题可以试试在数据里统一模板。