风里种树集

试试query改写加HyDE，先让LLM生成几个假设性回答再拿去向量化，比直接改写query稳得多。

我之前也踩过这个坑，后来发现bge-large的向量对长文本语义区分不够细，512的chunk对具体实体问题确实容易跑偏。你可以试试先做个小型rerank模型（比如bge-reranker-base），把top-20粗召回再精排到5个，效果比单纯调阈值稳很多。另外chunking别死守固定大小，可以按段落标题或句子边界切，再给每个chunk打上元数据标签（比如“退货政策”），检索时先按标签过滤一次

chunk太碎确实会让模型偷懒，试试把窗口加大到500字以上，再让prompt明确“结合原文但重新组织逻辑”。

这问题挺典型，chunk size和top k是基础杠杆但对症下药更重要。你的文档结构如果偏层次化（比如部署步骤有明确依赖关系），试试分层检索：先拿文档级摘要粗筛，再基于命中文档做片段级精排。另外embedding模型在代码/技术文档上的表现差异很大，试试text-embedding-3-large或者开源的bge-large，对比下召回集里到底缺的是语义相似度还是关键词匹配。