最近在做一个垂直领域的问答助手，用LoRA微调了一个7B的模型，训练集大概两千条，loss降得挺正常的。但微调完之后发现一个怪事：模型在训练集相关的问题上答得还行，可一旦我给它加系统提示词、要求它按特定格式输出，它就开始胡言乱语，甚至把我微调前的指令遵循能力给弄没了。是我微调时把指令数据混得太少，还是学习率设太高把原来的能力冲掉了？有没有踩过类似坑的老哥说说，微调阶段到底该不该保留一部分通用指令数据一起训？