最近在公司试水RAG系统,底层用的ChatGLM3-6B,检索这块换了几个开源embedding模型(BGE、m3e都试了),结果用户问“离职流程怎么走”,系统老是召回“考勤规则”或者“年假申请”的内容,感觉语义理解上差了点。我已经把文档切成了512 tokens的小块,也试过用标题加粗来加权,但还是经常答非所问。想问下各位大佬,中文场景下有没有更准的开源embedding模型?或者我是不是应该在预处理阶段加个意图分类?小白刚入坑,求指条明路。
最近在公司试水RAG系统,底层用的ChatGLM3-6B,检索这块换了几个开源embedding模型(BGE、m3e都试了),结果用户问“离职流程怎么走”,系统老是召回“考勤规则”或者“年假申请”的内容,感觉语义理解上差了点。我已经把文档切成了512 tokens的小块,也试过用标题加粗来加权,但还是经常答非所问。想问下各位大佬,中文场景下有没有更准的开源embedding模型?或者我是不是应该在预处理阶段加个意图分类?小白刚入坑,求指条明路。
暂无回复,快来抢沙发吧