最近在做一个简单的客服意图识别+话术生成任务，用的Qwen2.5-7B-Instruct，单卡A100，跑了大概5000条业务对话数据，LoRA rank=16，alpha=32，学习率2e-4，3个epoch。训练loss降得还行，但推理时模型经常答非所问，甚至把用户问题里的错别字也学进去了。我怀疑是不是数据清洗不够干净，还是说7B模型做这种垂直任务本来就该先做SFT再做LoRA？另外我是不是该先冻结embedding层？求有经验的大佬指个方向，感谢。