用LoRA微调Qwen做Agent工具调用，效果一直不理想，求指点

多工具串行确实容易翻车，我后来是用官方function calling模板重洗数据才稳住的，LoRA本身问题不大。

数据格式问题更大，多工具串行得把中间结果和id对齐当训练重点，光加rank没用。

多工具串行确实难，建议先用官方function calling模板重洗数据，格式对齐比调参管用。

多工具串行这个坑我也踩过，光靠加数据量真不一定管用。你检查过训练数据里tool_call_id的生成逻辑没？如果训练时id是随机生成的，模型很难学到稳定的映射关系，建议固定成按顺序编号。另外Qwen2.5本身对function calling模板是有原生支持的，可以试试用官方的chat template重新构造数据，比自定义格式效果好不少。全量微调7B的话除非你有足够多高质量数据，不然过拟合风险更大，先别急着上。

多工具串行这个坑我也踩过，大概率不是rank不够，而是数据里tool_call_id的对应关系模型根本没学到。LoRA对这类结构化输出本来就偏弱，尤其你只有3000条，串行样本估计更少。建议先别急着全量，拿Qwen官方的function calling模板把数据重洗一遍，让工具调用格式和基座预训练对齐，再补一批专门练多轮串行的样本试试。

多工具串行这个坑我也踩过，大概率是数据里tool_call_id的对应关系没让模型真正学到，LoRA容量有限，这种结构化依赖容易学偏。建议先别急着全量微调，把多轮样本按function calling官方模板重洗一遍，尤其确保每个tool_call和返回结果的id严格配对。另外可以拆成两步：先让模型输出调用计划，再单独生成参数，比端到端硬学稳很多。3000条对串行场景确实偏少，可以拿强模型合成一些难例补进去。