最近在做公司内部的文档问答系统,基于LangChain搭了个RAG流程,检索用的bge-large,生成用的ChatGLM3。现在遇到个瓶颈:文档领域术语特别多,比如“量子退火”这种词,纯向量检索老是把不相关的“退火工艺”排前面。我试过改chunk_size、调top_k,效果都不太理想。现在纠结要不要上微调,但网上说法不一,有人说微调Embedding模型能提升召回,有人说应该微调LLM让生成更懂领域术语,还有人说微调Reranker才是关键。预算和标注数据都有限,实在不想三条路都试一遍。有实际踩过坑的大佬能分享下经验吗?或者推荐下性价比最高的微调路径?