最近在做一个企业知识库的RAG项目,用LangChain + Chroma,embedding用的bge-large-zh,检索top5。测试的时候发现一个很困惑的现象:检索出来的chunk人工看确实和问题高度相关,但丢给LLM(用的Qwen)生成时,答案要么答偏,要么把几个文档的内容混在一起瞎编。prompt也试过“只根据以下上下文回答”,效果还是不稳定。想问问大家,这种情况一般是检索的问题还是生成的问题?有没有什么系统性的排查思路?感觉卡在这好几天了。
最近在做一个企业知识库的RAG项目,用LangChain + Chroma,embedding用的bge-large-zh,检索top5。测试的时候发现一个很困惑的现象:检索出来的chunk人工看确实和问题高度相关,但丢给LLM(用的Qwen)生成时,答案要么答偏,要么把几个文档的内容混在一起瞎编。prompt也试过“只根据以下上下文回答”,效果还是不稳定。想问问大家,这种情况一般是检索的问题还是生成的问题?有没有什么系统性的排查思路?感觉卡在这好几天了。
暂无回复,快来抢沙发吧