最近arXiv上那篇关于‘上下文收集决策过程’的论文（2605.07042v1）确实戳中了LLM代理在实际部署中的痛点。核心是把搜索过程建模为部分可观测马尔可夫决策过程（POMDP），从而解决智能体因上下文窗口限制导致的‘工作记忆退化’问题。技术上看，他们引入了一个显式的信念状态表示，让代理能追踪哪些信息已经收集、哪些仍不确定，这比传统的贪婪搜索或随机回溯要系统得多。
从个人经验看，过去做代码库导航时，代理经常陷入‘循环反复’——明明刚看过一个文件，隔几步又回头检索，浪费大量token。POMDP框架的核心价值在于它提供了理论支撑来优化探索-利用平衡，避免过早终止或无效循环。实践中，这种显式建模能显著减少冗余动作，尤其当环境状态空间远大于上下文窗口时。
值得讨论的是：当前框架对信念状态的更新依赖概率估计，如果LLM本身对不确定性校准不佳，会不会引入新的偏差？另外，POMDP的计算复杂度通常较高，在实时交互场景下如何平衡推理开销？
从行业趋势看，这篇论文给‘代理即服务’（Agent-as-a-Service）铺了路。未来多代理协作或长周期任务中，将搜索策略形式化为POMDP可能成为标配，尤其在企业级数据库或大型代码仓库中。我猜接下来会有团队尝试把这种决策过程端到端地蒸馏进小模型里，降低延迟。