
推荐语
过去几年,大模型的发展主线很清晰,比如更大的模型、更多的数据,以及更多的计算。但当模型从回答问题的Chatbot走向能够调用工具、执行任务的Agent,发展主线也开始发生变化。模型不仅要知道,还要在环境中行动,从反馈中判断结果,并在长时间运行中不断调整策略。Environment、Data、Verifier、Harness和Experience,正在成为决定Agent能力上限的新变量。
沿着这条路线再往前走,一个更具想象力、也更难回答的问题随之出现,那就是AI能否参与改进AI本身?今天的模型已经可以写代码、生成数据、运行实验,甚至参与训练和评测,但这些自动化能力是否已经构成真正的Recursive Self-Improvement?如果不是,模型还缺少什么?是更好的数据、更完整的环境、更可靠的Verifier,还是发现问题、判断方向与分配资源的Research Taste?
胡梦康很早便开始沿着这条路径展开研究。从Knowledge Graph、TableQA,到Embodied AI、Agent、World Model和Synthetic Environment,再到如今的Recursive Self-Improvement,他的研究方向看似不断变化,背后追问的却始终是同一个问题,那就是如何让模型从缸中之脑走向能够与真实环境交互的Intelligence。他先后参与AgentGen等项目,并主导开源项目OWL;来自开源社区和真实用户的反馈,也让他逐渐意识到,一些问题已经无法只在论文设定的干净环境中得到答案。
如今,胡梦康创立Evolvent AI,将公司的长期方向指向Self-Evolution与RSI,并选择从Data和Environment切入。在他看来,Agent时代的数据已经不再只是Document、Token或Instruction-Response,而是需要被设计、运行和验证的完整Experience。数据也不再只是被标注出来,而是由Researcher、领域专家与工程师共同生产出来。真正的壁垒,不是谁拥有更多标注人力,而是谁能更早理解并定义Model Frontier。
本期访谈,我们与胡梦康从他的研究路线与创业契机谈起,讨论了World Model、RSI、以及近期的工作RSIBench。他也具体解释了为什么Research不同于Coding、Verifier和Harness,如何影响Agent的上限,以及Evolvent AI为什么将Data Research视为长期护城河。
相比遥远的技术奇点,我们更关心的是,在当下,真正的自我改进Loop由哪些环节构成,哪些部分已经能够交给AI,哪些部分仍然依赖人的判断;以及一家创业公司,如何从真实的数据、环境和客户需求出发,一步步接近这个仍未被完全定义的未来。Enjoy~
Z Highlights
- Real-World Intelligence需要与环境交互,并在交互中实现自我进化。论文通常是在一个比较干净的环境中完成的,整个Setting由研究者自己设计;创业则需要在真实信号中获得Feedback。真实环境里的信号脏,但做的事情也会更加本质。
- RSI 最核心的判断标准,是新的 Intelligence 能不能在旧的 Intelligence 基础上延伸出来。经过系统改进后,如果Performance没有超过原始模型,就不能说它真正完成了有效的自我改进。Self-Evolving强调Self,RSI强调Recursive,但本质上是同一个过程。
- 到目前为止,模型的所有智能仍然源于你为它提供了什么样的数据。更本质的问题是,模型怎样获得能够突破当前能力边界的数据。未来,Harness能不能自己迭代,模型能不能自己设计Loss Function、优化Algorithm,甚至设计新的Model Architecture,都是RSI需要解决的问题。
- Auto Research和Coding是两回事。Coding有清晰的Verifier,可以通过快速试错获得反馈;但Research的时间和金钱成本都非常高。因此,模型需要一种听起来有些玄学、但实际非常重要的能力,那就是Research Taste,也就是用尽可能少的资源完成更有效的实验。
- 数据行业真正的壁垒,是能不能更快地定义Model Frontier。感知到Model Frontier是一件事,真正理解它是另一件事;进一步发现那些行业尚未意识到、模型也没有解决的问题,又是另外一件事。这个过程很像冲浪,你需要持续找到下一个浪头。
- 数据已经逐渐不再是简单标注出来的东西,而是生产出来的东西。首先需要Researcher定义清晰的Task和Verifier,再把中间的Data Rollout流程写好。只有把Research Hypothesis变成真实数据和可运行的环境,才构成一个完整的交付闭环。
- 我们内部把这个Philosophy叫Hill Climbing。不是不断寻找更难的问题,而是在Model Frontier上持续寻找下一块仍然存在learning gradient的stepping stone。真正的终点,不是人类设计一条无限长的Ladder,而是Intelligence开始自己发现下一个Frontier。
- 我们理解的RSI Infrastructure,最终不是一个特别复杂的Agent Workflow,而是一套Evolution OS:它提供标准化、隔离、可复现的训练和实验primitives。当这套能力以服务的方式被提供给模型或企业时,我们把它叫做Evolution-as-a-Service。
01 从World Model到Self-Evolving:一条走出论文,进入真实世界的研究路线
ZP:欢迎梦康!先请你按时间顺序梳理一下自己的研究经历。从早期的Knowledge Graph、TableQA,到Embodied AI、Agent、World Model,再到今天研究Self-Evolving,这条路线是怎样一步步形成的?也简单介绍一下Evolvent AI吧
胡梦康:我是2019年进入哈尔滨工业大学读本科的。本科阶段,最早在学校做的是知识图谱,后来在微软亚洲研究院做Table Question Answering,也就是表格问答。我从大二开始在微软亚洲研究院实习,
整个时间线大致是,2022年年中之前,大模型还没有真正爆发,我一直在做当时所谓的NLP以及偏Symbolic AI的事情。2022年年中左右,我开始转向大模型。当时主要做了几个方向,一方面,Codex刚刚上线OpenAI Playground,代码生成非常火,所以我们开始做LLM与Coding结合的研究;另一方面,我们也在做具身智能与LLM的结合。当时具身方向主要指Robotic Planning。
从2022年到2023年年初,我主要在做LLM+Coding,以及具身智能+LLM。到2023年年中之后,我的方向就彻底转向Agent了。核心出发点是,Physical World中存在很多与智能本身不直接相关的因素,所以我们进一步转向Digital World,在数字世界中研究Agent,并一直做到现在。
我认为,Agent这条研究路线在2025年上半年形成了一个闭环。我们想做真正的Real-World Intelligence,而当时Agent的性能已经达到了一定门槛。达到这个门槛以后,我们就开始研究Self-Evolving,也就是现在Evolvent AI在做的事。
Evolvent AI 的长期方向是构建 Evolution OS。现阶段我们从 Data、Environment 和 Evaluation 切入,把真实任务中的 failure 和 feedback 转化为可运行的 Task、Environment、Verifier 和 Experience,再通过标准化、隔离、可复现的实验系统,验证这些信号能否带来真实能力提升。
第一阶段我们先服务 AI for AI,也就是先研究如何让 AI 实现 Recursive Self-Improvement,让 Research Agent 学会在有限预算下发现问题、设计实验并改进系统;下一个阶段重心会继续往其他领域扩散,比如Auto Research for Science等等;长期再扩展到更广泛的科学、工程和企业场景。
Evolvent AI自己也是 Evolution OS 的第一批用户。只有当这套系统能够稳定帮助我们自己的 Research Process加速,它才有可能成为对外提供的 Self-Evolution Infrastructure。
ZP: 从Academic Research、开源项目到真实应用,你对什么问题值得做的判断发生了什么变化?让你开始觉得单纯做Paper已经不足以承载你想解决的问题,并最终决定创业?
胡梦康:我自己做研究的Motivation,一直是研究Intelligence。相较于更早一两年开始接触大模型的人,在2025年我们当时认为,大模型已经初步具备了Intelligence,但它同时又是一个“缸中之脑”。所以我们很想做的一件事,是构建真正的real-world intelligence。
Realworld Intelligence的关键点之一是,它需要与环境做交互,并在交互中实现自我进化。这也是我们最初研究它的原因。但做论文有一个最大的问题,论文通常是在一个比较干净的环境中完成的,整个Setting由研究者自己设计,实验过程中也可以不断调试。创业不一样。我们现在创业做的很多事情,需要在真实信号中获得Feedback。真实环境里的信号非常脏,但做的事情也会更加本质。
所以大概从2025年下半年开始,我已经逐渐从单纯做论文,转向更真实的Research和应用。另外一个重要契机,是我从2024年年底开始做OWL,并在2025年3月把OWL开源。项目发布之后,我们获得了大量来自开源社区和真实用户的反馈。对我来说,Agent从那时开始彻底由Academic Research走向了真正的Application。
当Agent真正走向应用时,最好的选择就不再是继续围绕论文做一些非常长尾的问题,而是进入真实环境解决实际问题。所以,我在那个阶段开始创业。
ZP: 我们先从World Model谈起。你什么时候开始意识到,真正限制Agent能力的可能不只是Model本身,还包括它对环境的理解,以及Environment、Data和Experience?这也引出了你对World Model的长期研究,你会怎样定义World Model?
胡梦康:2023年底的时候,我就在做World Model相关的研究,当时LLM World Model大致有两种实现方式。第一种是直接把LLM当作World Model使用,例如让它输出Tool Response,或者在一个Game中模拟整个World Dynamics。但这种方式很难支持Long-Horizon Task。第二种方式是直接写代码。例如让模型生成一个gym-like环境,或者像我当时做的那样,让它生成PDDL Domain。通过代码来模拟World Dynamics。
所以当时,我沿着Symbolic这一支往下做。Symbolic World Model Generation 是一个Upfront Cost,只要模型的Coding能力足够强,就可以写出非常复杂的World,且这个world可以持续复用。这个方向后来一直推进到2024年的AgentGen。AgentGen本质上是一个Synthetic Environment Generation Pipeline,也是沿着Symbolic World Model这条路线发展出来的。
当时模型的Coding能力还没有现在这么强,所以生成的环境相对简单。后来我一直在做Neural-Symbolic:对于那些无法直接通过Symbolic方式写出来的部分,就插入Neural API,也就是LLM API。这个体系最终也是服务于Agent Training的,进一步的也有后续一系列的工作出现,Text2World,Agent2World,Tool-Genesis等等。
从第一性原理来看,如果我们想得到一个好的Agent,Agent首先要能够模拟世界,也就是需要具备内生的World Modeling能力。其次,World Model也可以帮助我们解决数据问题。
2024年时,Agent最缺的就是数据,直到现在,Agent最缺的依然是数据。我们最近发布的RSIBench-Data第一版也聚焦数据。本质上,我们希望在RSIBench-Data中判断模型是否具备World Modeling能力,那就是它能不能生成一个Synthetic Data Pipeline?无论是合成完整的数据流水线,还是通过Self-Instruct为自己产生数据,我认为这都是World Model能力的不同体现。
ZP: 如果从Agent的决策过程来理解,World Model是不是意味着模型需要形成对环境的Belief,能够预测Action可能带来的结果?在你看来,World Model和Value Function分别解决什么问题?
胡梦康:对。我觉得 World Model 更像是 Agent 最终需要具备的一种底层能力:它不仅要理解当前发生了什么,还要能预测自己的 Action 会让环境发生什么变化。
但我们现在做的并不是去训练一个独立的 World Model。我们更关心的是,当基础模型逐渐具备这种 World Modeling 能力之后,怎么把这种能力真正转化成 environment、experience 和 training data。
我们之前做 Agent2World,包括后来一直做 Neural-Symbolic environment,本质上都是在做这件事:让模型把它对一个世界如何运行的理解,externalize 成一个真正可以执行、可以交互的环境。
到 RSIBench-Data 又往前走了一步。我们不只是问它能不能构造一个世界,而是问它面对一个自己不会的问题时,能不能理解这个 problem space,然后自己构造 data pipeline和environment、产生 experience,再通过这些 experience 改进自己。
所以 World Modeling 对我们来说不是最终产品,而是 RSI Agent 的一项基础能力;我们现在做的是让这种能力能够进入一个真正的 self-improvement loop。
02 什么才是真正的RSI?那就是让新的智能从旧智能中生长
ZP: 你会怎么定义真正的Recursive Self-Improvement?它和一般的Self-Evolving、自动化Training Pipeline或者模型迭代,最本质的区别是什么?
胡梦康:我认为,这个概念并不取决于系统迭代的是Artifact、Model,还是其他组件。它最核心的判断标准是,新的Intelligence是否是在旧的Intelligence基础上延伸出来的。比如我们在RSIBench中做过相关实验,最重要的Benchmark是,经过系统改进以后,它的Performance能不能高于原始模型,并且这一次能力提升能不能进一步增强下一轮improvement process。如果没有这两个现象,就说明它还没有真正形成有效的Recursive Self-Improvement。
RSI和Self-Evolving本质上是一回事,只是对同一件事情采用了不同表述。Self-Evolving强调的是Self,RSI强调的是Recursive,但它们描述的是同一个核心过程。现在大家的定义比较宽泛。比如AutoResearch,如果是模型参与改进模型并得到提升,就可以看作RSI。模型优化自己的Serving、LLM Serving或者Sampling,也都可以算RSI。
具体到和自动化Training Pipeline相比上,RSI是一个close-loop self-improving process,Automated training 解决的是“怎么更自动地执行一次训练”,而 RSI 解决的是“一个系统能不能利用自己的经验,不断找到下一轮让自己变强的方法”。这里分为几层:
L1就是基于一个已知的配方更高效地跑完,也就是现在所有的RL/training as a service的平台,这背后涉及到的是如何优化infra和资源调度策略。
L2就是能够在有限的预算下,自动搜索策略,并最终收敛到一个局部最优的训练配方,也就是optimization,这个方向的benchmarks已经比较多了。
L3我们希望他能do research and discovery,本质上是改变search space本身。而这是真正能够扩展frontier models能力边界的一步,eventually它甚