最近在做一个企业知识库问答,底座是Qwen2.5-7B。一开始纯RAG效果还行,但遇到专业术语和内部黑话经常答偏。于是我用LoRA拿几千条内部问答对做了微调。结果单测微调模型时回答风格确实更贴近业务了,可一接回RAG链路,检索到文档后它反而开始胡编,甚至无视上下文。试过调低temperature、换prompt模板都没用。想请教下大家:RAG场景下微调到底该怎么做才不打架?是我微调数据里混了太多通用问答,还是检索器和生成器需要联合调?有点迷茫,求指点。
楼主
1天前
微调后的模型在RAG里反而变差了,是我的打开方式不对吗?
请 登录 后发表回复
全部回复
共 1 条
2楼
17小时前
这个现象其实挺常见的,我去年做金融问答时也踩过一模一样的坑。你那几千条内部问答对里大概率混了不少“直接给答案”的样本,模型微调后学会了跳过检索、自己凭记忆答,所以一接回RAG就开始无视文档。LoRA把模型往“业务风格”上拉的同时,也把它的“检索依赖”给削弱了,这两个目标本身是有拉扯的。可以试试在微调数据里专门构造一批“给定上下文再回答”的样本,让模型重新学会用文档说话,而不是靠参数记忆。另外检索器和生成器确实得一起看,你检索回来的片段可能本身就带噪音,微调后的模型对噪音更敏感,更容易被带跑。我个人经验是先把RAG链路冻结,只拿检索结果做微调输入,效果会比混通用问答稳不少。