只靠语言和 token,AI 永远跨不过物理世界这道门槛!
AI 行业的主叙事,曾被 Scaling Law 垄断:更大的模型、更多的 token,更强的文本推理,仿佛只要把语言模型继续堆大,通用人工智能就会自动到来。
但这条路线撞上了天花板:预训练的边际收益肉眼可见地递减;模型一旦部署到真实世界,漏洞百出。
2026 年,“世界模型”接棒 Scaling Law,成了牌桌上最拥挤的筹码。然而,这个词本身,同时被四条技术路线认领,而它们对“理解世界”这件事,几乎各说各话。
第一条赌涌现:Sora、Genie 这类视频生成路线相信,只要下一帧逼得够真,物理规律就会自己从像素里长出来。第二条赌几何:李飞飞联合创立的 World Labs,从底层表征就锁死三维一致性,直接生成可自由探索的虚拟世界。第三条赌仿真:英伟达 Cosmos、Omniverse,把显式物理引擎当作机器人的练兵场。
第四条路最孤峭,也最反常识:2018 年图灵奖得主、深度学习三位“教父”之一 Yann LeCun,押注 JEPA(联合嵌入预测架构),它不生成未来,只在抽象表征的空间里预测未来。
四条路的根本分歧,本质上在于一个问题:机器要“懂”物理世界,究竟该去复刻它,还是去推理它?
前三条都在不同程度上试图让机器“看见并重建”世界;JEPA 却选择另一条路——编码器先丢掉那些根本不可预测的细节,只保留可预测、可规划的结构,然后在抽象表征空间里预测未来。
在 LeCun 眼里,连“预测像素”这件事本身都是伪命题:你把摄像头对准房间一角开始录像,下一帧会拍到什么,取决于镜头外有没有人走进来、光线会不会变化。而这些信息,在“当前帧”里根本不存在。

在 ECCV 2026 Keynote 演讲《World Models: Enabling the next AI revolution》中,LeCun 给出的,是一个比“Scaling Law 还能撑多久”更根本的判断:只靠语言和 token 训练,AI 到不了人类水平智能,也跨不过物理世界这道门槛。
在 LeCun 看来,如果我们要通往真正的通用人工智能(AGI),就必须打破对“生成式”的崇拜。
真正的下一章,是让 AI 系统从视频、传感器与交互中,学习并构建世界模型;再用 JEPA 去理解世界,去预测行动后果,去规划出实现目标的动作序列。
在Keynote的最后,LeCun给出了三个与众不同、甚至堪称“暴论”的建议:
1.别再死磕生成式模型了。
2.别再去研究 LLM 了。
3.转向联合嵌入,转向抽象表征,转向世界模型。
可以说,这次演讲,本质上是对“智能是什么、AI 该往哪走”的一次路线重估。
而台下的听众,比谁都更该听懂这句话。作为计算机视觉的研究者,他们最清楚:真实世界远比语言更脏、更连续、更高维。LeCun 要讲的,正是如何让 AI 真正“看懂”并“应对”它。
以下是 Yann LeCun 在 ECCV 2026 大会发表的 Keynote 演讲,AI 科技评论基于原英文演讲内容进行了不改变原意的编辑。
我们离 AGI ,还差得远
感谢大家的到来。确实如主持人所说,我是一位天文摄影爱好者,一有时间就会拍摄星空,我的演讲封面就是我的 51 和 42号作品。但我今天不是来讲天文的,我是来聊世界模型的。

我想开门见山地说一句:我们远没有走到 AI 的终点,甚至远没有走到计算机视觉的终点——否则你们也不会坐在这里。我们远远没有搞定 AI。
如果你去听硅谷里最乐观、也最悲观的那批人的说法,好像“我们已经实现 AGI 了”,但不管他们嘴里的 AGI 到底是什么,我今天的演讲,就是要告诉你们:并非如此。一句话总结我的态度:当下的人工智能,还差得远(AI sucks)。
当我们把 AI 系统的能力、尤其是它的学习效率,跟动物和人类的学习能力放在一起比,差距大到根本不在一个量级。
AI 确实能写代码、做数学、通过律师考试、赢得数学奥林匹克。但一个能在家里干活的通用机器人样板,到底长什么样?一辆真正的 L5 级全自动驾驶汽车,又在哪里?
在理解物理世界这件事上,AI 系统比起生物界,仍然落后得不是一星半点。这一点不用我多解释,你们都是计算机视觉的研究者,最清楚真实世界有多“脏”,它比语言要混乱得多。
这就引出一连串尖锐的问题:为什么今天人们口中的“AI”,也就是那些大语言模型聊天机器人,处理不了图像、视频、传感器读数这类高维、连续、充满噪声的数据?为什么今天一谈到“智能体系统”,训练它们的唯一办法还是靠海量数据做模仿学习?
然而,这种训练方法需要的数据量惊人,而且只对能收集得到数据的那个特定任务有效。对比而言,动物和人类学习新任务,根本不需要那么多数据:我们面对全新情况时,可以零样本(0-shot)、动用脑子去“吃透”这个问题,而不必事先受训、专门练习怎么解决它。
这种能力从何而来?也许来自我们常说的常识。
AI 系统确实有一种非常基础的常识,但和我们在人类乃至普通动物身上看到的那种常识,完全不是一回事。
一只普通的家猫,能做出出乎意料的动作。比如借着墙和家具的反弹力,跳到很高的柜子顶上,非常聪明。我们现在能造出拥有这种身体能力的机器人,却没法让它们“聪明”到足以自主完成这些事。一个十岁的孩子,即便第一次被人要求收拾餐桌、用洗碗机,几乎不用怎么学就能无师自通。可我们至今还造不出这样的 AI。
再举一个更硬核的例子:一个 17 岁的少年,大概用 20 个小时的实际练习就能学会开车,并且在练习时基本不会撞车;而我们手里其实有来自行车记录仪、各类传感器的数十亿小时数据,以及人类专家司机对应的操作指令。我们想用模仿学习和端到端方法,让 AI 学会自己开车。
结果呢?我们至今造不出 L5 水平的自动驾驶汽车。那些接近 L4 水平的车,靠的并不是海量数据的模仿学习,而是内置了大量工程化设计,比如显式建好的世界模型。当然也有人在推端到端学习,比如 Wayve 那几家公司,但我们还没到那一步。
这就让我们一再撞上一个悖论——莫拉维克悖论(Moravec's Paradox,1988),说的是:计算机能算复杂的积分、找路径、下棋,可连动物都能做的简单事,它却搞不定。这逼着我们去追问:智能到底是什么?

我很喜欢一句常被安在约翰·凯奇名下的话——其实不是他本人说的,而是他的追随者把他的思想浓缩成的一句话:“智能不是你知道什么,而是当你遇到一个没见过的新处境时,你做了什么。”
换句话说,就是:面对一个任务,你用头脑把它解决了,这才是智能。如果你是预先训练好才完成它的,那你只是在套用配方,那不是智能,只是陈述性知识和技能的堆积。
今天社区里、乃至整个社会,常把“陈述性知识和单项技能的堆积”误当成智能。真正的智能,是面对新问题时发明新技能、解决新问题的能力——这既定义了人类行为,也定义了非人类动物的行为。
所以,衡量智能应该看两件事:第一,学一个新任务有多快。需要试多少次才能成功,甚至可能一次都不用试,直接就会,这就是零样本学习;第二,能快速学会的任务范围有多广。
人类的特征,正是适应力极强、学得快,能迅速应对新处境。
智能的本质:人类自身都不“通用”,
AI 也不该追求“通用”
那么人类和动物到底是怎么学的?学习的基础是什么?发展心理学家曾把婴儿的发育过程整理成图表,标出他们在出生后第几个月,开始掌握关于物理世界的基本概念。语言能力和社会交往能力,也有类似的发育时间表。

比如面孔追踪,几乎从零个月就开始了——婴儿会被运动和面孔吸引,几分钟内就能识别脸;又比如他们学会区分“有生命”和“无生命”物体,发生在头三到四个月;意识到客体恒存(东西被挡住也依然存在),也发生在早期几个月。随后,他们会开始拥有“稳定性”、“支撑”等概念。
但“每个不受支撑的物体都会下落”这种重力概念,则要花更长的时间(大约九个月),他们才能理解;而惯性,也就是我们说的直觉物理,他们需要学得更久。
这些是怎么学会的?很大一部分靠观察。有些研究运动控制的心理学家坚称,婴儿无时无刻不在“互动”。但话说回来,三个月大之前的婴儿几乎没法影响世界:他们只会比划,很难抓东西。那么,前面三个月里发生的,到底是什么类型的学习?
我和社区里一位同行合写过一篇论文,核心论点是:世界是混乱的,所以,如果“智能”指的是快速学会新任务的能力,那么“通用智能”这个概念根本不成立。
我们人类,自身都没有办法做到“通用”。
人类智能极度专门化——在所有可被数学枚举的问题里,人类能解的只是极小一部分;就说日常的视觉任务,在所有可能的视觉任务中,人类也只能做极小的一部分。
而且,我们每个人的技能组合都不同,这意味着我们在各自领域都是“专才”。就算从人类内部来看,我们也不是通用的。我能学着吹萨克斯、弹电钢琴,但无法成为 McCoy Tyner 那样的爵士钢琴大师。
每个人都能学一些东西,但没人能样样精通。
所以我们必须接受:AI 的本质不是什么都懂,而是能快速学习、快速适应新任务。
当然,我是做机器学习的,这么说可能显得有点“职业病”,但事实就是如此。
对应的问题便是:AI 靠什么原理学习,又需要什么数据?这话对你们来说其实不新鲜——你们都是做计算机视觉的,本来就明白:
光靠文本训练,不管模型在数学和编程上考多高的分,都不可能达到人类水平智能。
我把这笔账算得更具体一点。
先看大语言模型的预训练数据。一个典型的大语言模型,如果把互联网上所有公开文本都拿来训练,大约是 20 万亿个词,换算成 token 大约是 30 万亿个。每个 token 大约占两到三个字节,乘下来,总量大约是 10¹⁴ 字节。这个数字是什么概念?如果让一个人把这些文本全部读完,大约要花 40 万年。
再看一个人类小孩。我们的视网膜分辨率很高,大约有六千万到一亿个感光细胞,但信号在传给大脑之前会被压缩:每只眼睛大约通过 100 万根视神经纤维输出,两只眼睛加起来约 200 万根。每根纤维大约每秒传输 1 字节。一个四岁孩子,在生命头四年里累计清醒的时间大约是 6 万小时。把这两个数乘起来:200 万根纤维 × 每秒 1 字节 × 6 万小时,得到的信息量大约也是 10¹⁴ 字节。
也就是说,一个四岁孩子通过视觉和触觉,所接收到的数据量,已经和互联网上所有公开文本的总量相当。
所以,AI 只靠文本训练,信息量远远不够,更别说达到人类水平智能。“我们需要视觉”这件事,对你们、对我,都是好消息。
从 token 预测到世界模型:
System 2 缺位与十年布道
接着来看第二个问题:智能系统里应该发生什么样的“推断”?我们能不能造一个系统,让输入数据向前穿过一堆神经网络层,最后只输出一个 token(比如一个离散的词),就当作完成了推断呢?
神经网络正是这么做的:给它喂一段文本,它让文本向前穿过巨大的神经网络,然后输出下一个 token。但这不是智能行为,它本质上只是被动反应;
在生成一个 token 的那一瞬间,网络内部没有任何推理或思考。
大语言模型做了两件事来弥补这一点。
第一,它生成比必要多得多的 token,这叫思维链(Chain of Thought)。通过产生大量 token,它增加了得出答案时的计算量。但如果你只让它回答“是”或“否”,它内部根本没有可以展开的思考机制。
第二,它生成很多不同的 token 序列,再用某种方式挑出其中最好的。只要生成的输出能被验证对错,这招就极其高效。所以它适用于代码和数学:你生成一个证明,可以逐步验证;生成一个程序,可以跑起来看结果。
于是系统能评估自己的输出,再迭代改进自己——这正是大语言模型在数学上那么强的原因。
但只要一碰到真实世界,验证就变得极慢,几乎不可压缩。
机器人领域里,可以用模拟器应用某些情况,比如让机器人走路、跑步,这些简单动作还行得通,但操纵物体就不行了。

那怎么优化?我的解法是:
更强大的推断模式。
不应该只是让网络前馈计算、直接吐出答案,而应该是:答案不再由网络直接生成,而是被当作输入送进网络,让网络给它打分。
具体说:网络会算出一个标量,衡量“当前这个候选答案,对观察到的输入来说有多好”。这个分数叫能量(Energy)。这个能量函数的输出越小,说明答案越好。然后,系统在外部通过搜索和优化,不断尝试不同的候选答案,让网络给它们打分,最后找出能量最低的那个——也就是最好的答案。
这在概率推断里是经典套路。传统的推断从来都包含某种搜索与优化:不是一步给出答案,而是反复提出候选、评估、再改进。
它天生就比“贪婪地吐一串离散 token”更强大。
而这,就引出了“世界模型”这个概念。
因为,如果系统要搜索出一个对应输入的“好输出”,而这个输出是一个动作,比如机器人的一个动作,或者一串动作序列,那么它就必须能够预测自己动作的后果。这就是世界模型。
世界模型,简单而言就是一个训练好的系统:给定 t 时刻的世界状态,再给定一个你想象中智能体要采取的动作,它就能预测采取这个动作后世界会变成什么样。
接着,你把预测结果喂给一个目标函数,也就是代价函数。它输出一个标量,衡量任务完成得怎么样:任务完成了就是 0,越没完成数值越大。
系统要做的,就是通过优化,搜索出一串能最小化这个代价的动作。
这比大语言模型那种贪心地逐个生成 token 的方式,要强大得多。

从心理学的角度看,这种“用你心里的世界模型去想象动作的后果,从而规划出达成目标的动作序列”的过程,
正是人类所说的 System 2,也就是你面对新处境、需要动用全部脑力时的决策与行动方式。
相比之下,System 1 是更被动的反应式行动:你清楚该做什么,不需要想。今天的机器人大多属于 System 1;只有那些带运动规划、能预测后果的机器人,才更接近 System 2。
这套思路,我已经倡导了大约十年。2016 年,我在 NIPS(后来更名为 NeurIPS)做主旨演讲时就说过:AI 的未来是世界模型,那才是我们该攻克的下一个前沿。后来我又花了几年,才把这些想法整理成一篇完整的论文,题为《A Path Towards Autonomous Machine Intelligence》(通往自主机器智能之路)。那篇论文是四年前发布的,感兴趣可以去读。我在 YouTube 上也做过几次演讲。
此后,我们朝这个方向,又走了很远的一段路。大约一个月前,我创立了一家公司,名叫Advanced Machine Intelligence(AMI Labs),就是为了真正加速这个方向的进展。
世界模型的建构:
安全护栏与层级化规划

世界模型会预测动作的后果,并搜索能优化目标的动作。这里除了主要目标,通常还需要设置其他目标函数,这些设置可以视作“护栏”(Guardrails)。
这正是所有关注 AI 安全的人会感到欣慰的地方:你可以通过施加这些护栏,把安全硬编码(Hardwire)直接写进系统。
为什么?因为这个架构从设计上,让模型只能完成你给定的任务,而且必须在优化过程中满足“护栏”目标,让它根本没有“越狱”的入口。它不像大模型那样从根本上不可控,只能靠各种