最近在做一个垂直领域的问答助手，拿Llama3-8B用LoRA微调，数据集大概3k条，都是人工写的QA对，格式就是标准的instruction/input/output。训练loss降到0.8左右，但推理的时候发现模型回答特别机械，每条都像模板套出来的，开头必是“根据您的问题”，结尾必是“希望对您有帮助”，完全没有基座模型原来那种自然的语气。我试过调temperature和top_p，效果不明显。想问问有经验的老哥，这种情况一般是数据构造的问题（比如QA对太规整、缺乏多样性），还是训练参数的问题？有没有什么排查思路？