最近在做一个垂直领域的对话助手，基座用的是Qwen2.5-7B，拿两千多条业务数据做了LoRA微调。结果发现一个很迷惑的现象：微调前用system prompt约束输出格式还挺好使的，微调后模型经常无视格式要求，直接按训练数据里的风格来回答，怎么调prompt都不太管用。但如果不加system prompt，它回答的内容质量又确实比原来好很多。想问问大家，是不是微调把模型原来的指令跟随能力给覆盖掉了？这种情况一般怎么处理，是在训练数据里也混一些通用指令数据，还是调LoRA的rank和alpha？有点不知道该从哪下手了。