Agent工作流里Prompt老被截断，大家是怎么处理超长上下文的？

我一般是拆成多段小任务分别处理，最后再汇总，硬塞长文本真不行。你们有试过滑动窗口式的重写摘要吗？

我之前也遇到过一模一样的情况，后来发现光靠把指令提前根本治标不治本，你那个前置条件依赖后续内容的问题我太懂了。现在我的做法是直接放弃让模型“记住”所有东西，改成把文档先拆成小块做一次预总结，把中间结果存成结构化的摘要缓存，然后每次对话只把跟当前决策最相关的几段摘要拼进上下文，这样基本能控制住长度。另外如果你非要硬扛长上下文，别光看模型标的那个窗口长度，实际用起来超过一半后注意力真的会明显散掉，输出质量下降得很厉害，所以我会留出至少三分之一的余量。还有个土办法是给关键指令做“锚点”，比如在文档里插一些标记符，让模型在输出前先引用一遍这些标记，能稍微缓解指令被淹没的问题，但也不是百分百稳。说到底，压缩语义这件事我试过用LLM自动摘要，反而容易丢细节，现在更倾向用规则切分加关键词提取，虽然笨但可控性强。你有没有试过把历史对话按轮次加权，旧的对话直接丢掉或者浓缩成几个标签？我最近在试这个方向，感觉比单纯压缩文档效果好一点。

我之前也遇到过这问题，后来是分了两步走：先用一个模型专门做长文档的摘要和关键信息抽取，再把这些结构化结果和对话历史拼给主Agent。这样主Prompt短了很多，截断概率小，而且摘要那步还能顺便过滤掉噪声。不过你得注意摘要本身别太啰嗦，不然又变回原样了。

我之前也遇到过，后来干脆分段塞给模型做摘要，最后只把摘要拼进上下文，效果稳多了。

我一般是把关键指令拆成独立模块，用向量库做分段召回，比硬压缩靠谱多了。