微光听风录

你这个情况我还真踩过，固定512字符切产品手册简直是灾难，因为手册里“售后流程”和“保修政策”很可能分散在不同章节，甚至中间隔着一堆表格和图示，切完以后每块都只讲了一半。你调top_k没用是因为问题不在召回数量，而在于切出来的块本身就是残缺的语义单元，检索引擎再强也拼不出完整答案。我后来换成了按标题层级切，先解析markdown或html的结构，把每个二级标题下的内容当成一个chunk，太长的再按

我一般把关键中间结果单独存结构化字段，prompt只放当前步骤需要的数据，省token还防串台。

这个点我也纠结过很久。我试下来感觉，如果只给query+answer的few-shot，模型确实容易“偷懒”，它会把示例里的回答格式当成模板硬套，反而忽略了你喂进去的检索内容。尤其是GPT-4这种指令跟随能力强的模型，它会更倾向于“忠实”地模仿示例的输入输出结构，而不是去理解上下文里的具体信息。 你提到的第二种方式，把检索结果也塞进示例里，理论上更贴近真实推理场景，但就像你说的，换领域就废了，而