微调后的模型做Agent工具调用总翻车，是LoRA参数问题还是数据太少了？

80条工具调用样本确实太少了，而且LoRA r=8对结构化输出这种任务容量可能不太够。我之前做类似场景时发现，多轮里的参数抽取崩往往不是模型笨，而是训练数据没覆盖“指代消解+字段对齐”这种组合，单轮训得再好也没用。建议把工具调用样本至少补到300条以上，并且刻意构造带上下文的多轮样本，让模型学会从历史里找实体。另外可以试试在推理时用outlines或者vLLM的guided decoding强制JSON schema，能兜住不少格式错。

80条工具调用样本确实太少了，LoRA r=8也偏保守，结构化输出本来就更吃数据多样性。我建议把工具调用样本扩到至少500条以上，覆盖参数组合、缺参反问、多轮指代这些边界情况，格式错往往就是没见过足够多“正确答案”的样子。另外可以试试把工具schema直接塞进训练目标里，让模型学着对齐字段，光靠提示词补不回来。7B做这个不算吃力，关键是数据质量和覆盖度。

80条工具样本确实太少，模型根本没学会对齐参数和字段，建议先补到500条以上再谈调参。

80条工具样本确实太少了，参数绑定这种得几百条打底，先补数据再动超参。

80条工具调用样本确实太少了，模型根本没见过几种参数组合的变体，泛化到多轮场景基本靠猜。我之前用Qwen2.5-7B做类似的事，工具数据至少上千条起步，还得刻意覆盖同义表达和字段歧义的情况。另外r=8可能偏小，结构化输出对容量要求比普通指令跟随高，可以试试r=16或32。多轮场景建议把历史对话一起塞进训练样本里，不然模型学不会从上下文里抽参数。

80条工具调用样本确实太少了，LoRA想学好结构化输出起码得几百条起步，而且格式得覆盖各种边界情况。我试过r=8在7B上做类似任务，参数提取经常漏，后来把r提到32、数据加到500条才稳。另外可以试试把工具调用拆成两步：先让模型输出参数JSON，再单独解析，别指望它一步到位。

80条工具调用样本确实太少了，模型根本没学会怎么稳定映射参数，单轮指令准不代表多轮Agent里能扛住。我之前也踩过这个坑，后来把样本补到五六百条，专门覆盖多轮槽位继承和参数缺省的情况，效果才明显好转。另外r=8对7B做结构化输出可能偏小，可以试试r=16或32，同时检查下训练数据里工具调用的格式是不是跟推理时完全一致。

80条工具调用样本确实太少了，尤其你还用的是r=8这种比较保守的秩，LoRA本身容量就有限，想让它学会精准的结构化输出挺难的。我感觉问题可能不只是数据量，而是数据分布——你那几百条历史工单里有多少是真正带多轮上下文和工具调用的？如果大部分是单轮QA，模型学到的只是“回答像工单”，而不是“按schema填参数”。另外Qwen2.5-7B做function calling本身不是不能做，但它对字段边界特别敏感，训练时最好把工具调用的完整轨迹（包括thought、参数JSON、调用结果）都喂进去，而不是只给最终答案。你可以试试把LoRA秩提到32或64，同时把工具调用样本单独过采样，至少搞到500条以上再训。还有个坑是格式错不一定全是模型问题，你的解析器对空格、引号、嵌套JSON的容错也可能在放大失败率，建议先打印原始输出看看是漏字段还是格式漂移。

80条工具调用样本确实太少了，模型根本没见过几种参数组合的变体，r=8也压不住这种结构化输出能力。我之前拿Qwen2.5-7B做类似的事，工具样本堆到500+才稳，而且格式错的样本要单独挑出来重训。建议先别急着调r和alpha，把多轮里参数绑定的case造够，尤其是“张三”和“上个月”这种同句多槽位的。Base的few-shot能撑住说明底子没问题，大概率是数据配比失衡了。

80条工具调用样本确实太少了，参数映射这种事至少得几百条打底，再往上堆点负样本试试。

80条工具样本确实太少了，模型根本没学会字段对齐，建议先补到500条以上再谈调参。

80条工具调用样本确实太少了，尤其是多轮场景下的参数绑定，这本质上是让模型学会在对话历史里做槽位对齐，不是单纯指令跟随能覆盖的。我之前用Qwen2.5-7B做过类似的工单Agent，LoRA只喂单轮数据的时候也是单轮准、进流程就崩，后来把多轮对话里“哪句话对应哪个参数”的样本补到500条以上才明显好转。r=8其实不算小，但alpha=16配上这个数据量容易过拟合到单轮模板上，你可以试试把rank降到4或者把alpha调到8，让微调更保守一点。另外工具描述改详细不一定有用，反而可能让7B模型在长上下文里注意力分散，建议把工具schema拆成短字段加示例值，比如“时间范围”直接给“2024-06”这种格式。还有一点，你检查过推理时的chat template和训练时是否完全一致吗？Qwen2.5的tool call格式对special token很敏感，差一个换行都会让输出结构崩掉。如果base模型few-shot还行，其实可以先用few-shot加约束解码兜底，微调专注补多轮参数提取这一块，别让它同时学格式和语义。

有没有更详细的教程推荐？