最近在做一个企业知识库的RAG项目,用LangChain + bge-large-zh + ChatGLM3。向量库用的Milvus,top_k设的5,检索出来的chunk肉眼看着都挺相关的,但喂给LLM之后,回答要么答非所问,要么把好几个文档的内容混在一起胡说。试过调temperature、换prompt模板,效果都不稳定。有没有做过类似项目的老哥指点一下,到底是检索的问题还是生成的问题?该怎么定位?
最近在做一个企业知识库的RAG项目,用LangChain + bge-large-zh + ChatGLM3。向量库用的Milvus,top_k设的5,检索出来的chunk肉眼看着都挺相关的,但喂给LLM之后,回答要么答非所问,要么把好几个文档的内容混在一起胡说。试过调temperature、换prompt模板,效果都不稳定。有没有做过类似项目的老哥指点一下,到底是检索的问题还是生成的问题?该怎么定位?
暂无回复,快来抢沙发吧