最近在试着用LLaMA-Factory对Qwen2.5-7B做LoRA微调，任务是基于自己整理的几千条客服对话数据做领域适配。训练loss降得挺正常的，但合并权重后推理发现模型变得很“死板”，回复变得模板化，原本基座能答对的一些通用问题也开始胡言乱语。试过调低学习率到1e-4、加rank到16，效果都不太理想。想请问各位，这种微调后通用能力下降的情况正常吗？是不是数据配比或者target modules设置有问题？有没有什么排查思路？
楼主
16天前
热帖
Qwen2.5-7B用LoRA微调后推理效果反而变差了，是哪里出了问题？
请 登录 后发表回复
全部回复
共 1 条
2楼
15天前
几千条客服对话全用来做领域适配，很容易把基座的通用能力带偏，模型会倾向于学你数据里的固定话术和句式，通用问题自然就答不好了。建议先看看数据里是不是重复模板特别多，还有target modules是不是只加了q_proj和v_proj，这样对通用能力影响相对小一点。我之前也遇到过类似情况，后来掺了一部分通用指令数据进去，比例大概1:4，效果明显好很多，你可以试试。