最近在做一个基于Qwen2.5-7B的Agent项目,工具调用用的是ReAct格式。跟着教程用LLaMA-Factory做了LoRA微调,训练时loss降得挺漂亮,但一接到真实的Agent框架(用的LangGraph)里就崩:模型经常不输出Action:字段,或者直接幻觉出根本不存在的工具名。
我确认过微调数据里是带了工具描述的,模板也是按官方文档写的。想问问有经验的朋友,这种微调后的模型接入Agent时,是不是还要专门做对齐(比如system prompt、工具定义格式)?还是说我的训练数据本身就有问题?有没有排查的思路?感谢!
楼主
2026-08-22
用LLaMA-Factory微调完模型后,Agent工具调用一直报错,是哪里没对齐?
请 登录 后发表回复
全部回复
共 41 条
2楼
15天前
大概率是推理时system prompt和训练模板没对齐,LangGraph那边的工具注入格式也得跟训练时一模一样才行。