大佬们求助。最近在跑一个中文对话模型的LoRA微调，训练数据是自己攒的约2万条客服问答对，alpaca格式，学习率设了2e-4，跑了3个epoch。训练时loss从1.8降到0.6，看着挺正常。但合并权重后一测，模型回答明显变“死板”，很多通用问题甚至开始复读训练集里的固定话术，连基本的逻辑推理都退化了不少。我本来想让它更懂业务，结果像是把底座模型“污染”了。想问问有经验的朋友，这种情况一般是微调数据太单一导致过拟合，还是说我的LoRA秩/学习率设置有问题？另外，有没有办法在微调后保留原模型通用能力的同时只增强特定领域能力？谢谢！