最近在做一个人社局的文档问答机器人,想把政策文件切分后塞进向量数据库做RAG。测试了不同chunk大小(128/256/512 tokens),发现小的召回准但上下文不完整,大的倒是能覆盖更多信息,但容易把不同条款混在一起,检索出来全是噪声。用的bge-small模型,感觉对中文长文本效果一般,但换bge-large又怕太慢(只有一张3090)。另外,我看有的方案还用了双编码器+交叉编码器重排序,这个对社区项目来说是不是太复杂了?求各位大佬指点一下落地的平衡点,谢谢。