最近在折腾用Qwen2.5-7B微调一个Agent,主要做工具调用(function calling)。数据集是自己构造的,大概3k条,格式参照官方模板。训练用LoRA,loss从1.2降到0.3左右,看着挺正常。但实际推理时模型经常输出格式对不上,要么参数缺字段,要么该调工具的时候直接闲聊。试过调temperature、加few-shot,提升都不明显。想问下做过Agent微调的朋友,这种情况是数据量不够,还是数据质量有问题?需不需要加一些负样本?
最近在折腾用Qwen2.5-7B微调一个Agent,主要做工具调用(function calling)。数据集是自己构造的,大概3k条,格式参照官方模板。训练用LoRA,loss从1.2降到0.3左右,看着挺正常。但实际推理时模型经常输出格式对不上,要么参数缺字段,要么该调工具的时候直接闲聊。试过调temperature、加few-shot,提升都不明显。想问下做过Agent微调的朋友,这种情况是数据量不够,还是数据质量有问题?需不需要加一些负样本?
暂无回复,快来抢沙发吧