最近在搭一个RAG系统做公司内部知识库问答，用的embedding模型是bge-large-zh-v1.5，分块大小设了512字符。但每次检索top-k=10时，经常返回一堆表面相关但实际上答非所问的片段，比如问“服务器部署流程”却混进一堆运维配置文档。试过调低chunk大小到256，也试过用MMR重排序，但效果不稳定。想问下大家：有没有更鲁棒的策略来过滤掉噪声片段？比如结合query意图做二次筛选，或者用LLM自己判断？新人诚心求教，踩坑中。
最近在搭一个RAG系统做公司内部知识库问答，用的embedding模型是bge-large-zh-v1.5，分块大小设了512字符。但每次检索top-k=10时，经常返回一堆表面相关但实际上答非所问的片段，比如问“服务器部署流程”却混进一堆运维配置文档。试过调低chunk大小到256，也试过用MMR重排序，但效果不稳定。想问下大家：有没有更鲁棒的策略来过滤掉噪声片段？比如结合query意图做二次筛选，或者用LLM自己判断？新人诚心求教，踩坑中。
这种情况我也遇到过，bge-large虽然强但召回top-k确实容易混进主题相似但意图不同的片段。我自己的做法是在检索后加一个轻量的分类器，用query的实体和动词做关键词匹配过滤，比单纯调参数稳定很多。不过也好奇你试过在embedding前加query改写吗？比如把问句扩展成更精确的检索描述，有时候能直接提升召回精准度。