当大模型行业不断追求更大的计算规模、更长的训练和更自由的生成方式时，清华大学黄高副教授课题组的三位青年研究者，却连续用三篇论文追问同一个问题：模型看起来变得更强，是否真的意味着它获得了新的推理能力？
清华大学黄高副教授
今年，由倪赞林担任第一作者，王慎执、乐洋共同参与的《The Flexibility Trap》获得 ICML 2026 Outstanding Paper Award。ICML 2026 投稿量达到创纪录的 24,000+ 篇，仅评出 2 篇 Outstanding Paper，该论文成为ICML历史上首篇完全由国内单位学者完成的获奖成果，为更好地理解和设计扩散语言模型做出了重要贡献。
这已经是黄高课题组一年内第二次获得国际人工智能顶会的最高级别论文奖项。此前，乐洋领衔的《Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?》获得 NeurIPS 2025 Best Paper Runner-up，围绕 RLVR 能力边界提出的反直觉结论，也迅速成为大模型强化学习领域讨论最广泛的工作之一。
同期，王慎执担任第一作者的《Beyond the 80/20 Rule: High-Entropy Minority Tokens Drive Effective Reinforcement Learning for LLM Reasoning》入选 NeurIPS 2025 ，一年内被引用超过500次，为分析RLVR entropy的经典论文之一。论文提出，大模型的思维链可以建模为少量高熵token的决定推理方向、大量低熵token的跟随和执行的过程，高熵的少数关键token可能才是真正影响大模型强化学习效果的核心，为理解大模型推理训练提供了新的视角。
三篇论文背后，是三位研究经历互补的年轻学者：倪赞林长期研究生成模型与扩散语言模型，王慎执聚焦强化学习与大模型Token Entropy机理，乐洋则聚焦强化学习与大模型推理能力的形成机制。他们在黄高副教授课题组相遇，将各自的研究积累汇入同一条主线，最终形成了一组相互衔接的原创成果。
黄高副教授是 DenseNet 的第一作者，曾获 CVPR 2017 Best Paper，单篇论文被引用超过 6 万次。如今，课题组又从计算机视觉和网络架构进一步进入大模型强化学习与推理机制研究，接连获得 NeurIPS 2025 Best Paper Runner-up 和 ICML 2026 Outstanding Paper，并入选 CVPR 2026 Best Paper Finalists。
在这次访谈中，Z Potentials 与倪赞林、王慎执、乐洋深入讨论了三篇论文背后的共同研究主线：为什么训练更多不一定更有效，为什么更大的自由度可能反而限制探索，以及大模型究竟如何才能真正突破已有能力边界。
Z Highlights
- 真正重要的研究只有两类：一类是帮助整个社区增加新的认知，另一类是真正简单、有用，并最终能够被广泛采用。
- 三项工作虽然切入点不同，但共同强调了一点：有时更多不一定总是更好。
- 我们首先提出了 bypass 不确定词元的解释，随后进一步将这一机制与 forking token 联系起来，某种意义上，答案一直都在那里，只是我们一直没有找到理解它的正确视角。
- 我认为好的研究应该为社区提供新的信息增量，而信息增量的重要来源之一，就是 surprise。也就是说，研究结果应该能够挑战人们已有的预期，而不仅仅是重复已有结论。
- RLVR 可以显著改变模型在已有能力范围内的采样分布，使原本概率极低的正确路径变得更加稳定，也可能通过参数共享带来一定的组合迁移。 我们真正想强调的是：在当前以 on-policy 和结果奖励为主的训练范式下，RLVR 很难稳定获得。
- 训练分布之外的新知识或新的推理模式。 这一限定条件，也是理解我们工作的关键。
- 至于只保留 Top 20% 的高熵 token，这并不是最优方案，也不是一个精细的工程设计。 这项工作的目标首先是一项学术研究，我们更希望传达一个 principle：高熵 token 更多负责决定推理方向，低熵 token 更多负责沿着既定方向完成推理。
- 真正理想的解码策略，应当在保证生成质量的同时，尽可能保留推理路径的多样性，这也是任意顺序解码目前仍然面临的核心挑战。
01 清华黄高副教授课题组三位青年学者的科研方法论
ZP：请三位先分别介绍一下各自的成长与求学经历。从学生时代开始，是什么契机让你们对科研产生兴趣，又是如何一步步进入黄高副教授课题组的？
倪赞林：我本科就读于清华大学，最初在航院，后来转入自动化系，最终进入黄高副教授课题组。
我从小就对数学和逻辑推理很感兴趣，也喜欢思考问题背后的规律。我一直觉得，科研最吸引人的地方在于，它能够不断突破人类已有知识的边界，把未知变成已知。这也是我后来选择走科研道路的重要原因。
真正让我坚定进入 AI 领域，是本科期间参加 SRT 项目。当时，一位师兄向我介绍了 GAN 等生成模型，并展示了模型生成的场景和房屋。那是我第一次意识到，AI 不只是识别现实世界，还能够学习现实世界的规律，并进一步创造出一个新的虚拟世界。这种能力给我留下了很深的印象，也让我决定把人工智能作为自己的研究方向。
后来，我主动转入自动化系。刚开始，我在鲁继文老师的课题组做一些计算机视觉方向的研究，在课题组师兄带领下完成了一篇 CVPR 论文。那段经历让我完整走过了一遍从想法到论文的科研流程，也帮我建立了最初的科研基本功。随着研究的深入，我开始更关注模型架构的问题，也了解到黄高副教授团队在这一方向做出了 DenseNet 等具有国际影响力的工作，还阅读了实验室师兄的一些研究成果，对团队的研究方向非常认同，于是联系了黄老师，最终加入课题组，并一直沿着这个方向持续开展研究。
王慎执：我小时候好奇心很强，总喜欢追着家长和老师问各种为什么，也经常自己做一些科创小项目。我很早就发现，自己对探索未知、研究问题始终保持着很强的兴趣。
我本科就读于北京航空航天大学，最初在航空航天大类学习。一次偶然观看电影《模仿游戏》和《社交网络》，让我第一次对计算机产生了浓厚兴趣。从那以后，我开始在课程学习之余自学编程，并在大一以书院第一名转入高等理工学院，后来选择了计算机专业，希望系统学习计算机和人工智能相关知识。
进入计算机专业后，我开始真正接触科研。大二暑假，我前往加拿大 University of Alberta 开展了第一段科研经历，这段经历让我第一次体验到科研工作的过程，也坚定了继续走科研道路的想法。随后，我在商汤科技从事计算机视觉研究，并在CVPR会议上发表了自己的第一篇第一作者论文。
在了解计算机视觉领域的发展时，我注意到黄高老师凭借 DenseNet 等工作在国际学术界具有重要影响力。同时，黄老师也是北航校友，让我感到格外亲切，于是主动联系了黄老师，并最终加入课题组，开始了后续的研究工作。
乐洋：从小我就比较喜欢一个人思考问题，对数学和逻辑推理尤其感兴趣。我很享受抽象思考的过程，总会下意识去观察和分析身边事物背后的规律。这种习惯也让我逐渐意识到，自己更适合做需要长期思考和探索未知的工作。
本科进入北京航空航天大学后，我通过大类培养选拔进入高等理工学院，并在专业分流时取得了第一名的成绩。虽然当时对不同学科的了解并不多，但我已经开始认真思考，自己真正适合做什么。基于当时的兴趣，我选择了电子信息专业。
进入电子信息专业后，我逐渐发现，相比硬件实验和工程实现，我更喜欢算法、理论和需要深入思考的问题。一次计算机与 AI 相关的讲座，让我第一次真正接触到人工智能，也让我很快确定了未来的发展方向。既然已经想清楚自己真正想做什么，就应该尽早开始，而不是继续留在一个并不适合自己的专业。于是，我主动转入计算机专业，也因此比同届同学晚了一年。
为了继续深造，我开始参与科研，最早从事计算机视觉方向的研究。虽然当时没有发表论文，但系统完成了算法基础和工程能力的训练，为后续研究打下了扎实基础。后来，受疫情影响，我调整了原本的留学计划，转而选择保研，并最终进入黄高副教授课题组，开始了后续的科研工作。
ZP：回头看博士阶段，你们认为哪些经历真正塑造了自己的科研能力？有没有几个关键节点，对后来做研究的方式和方向影响特别大？
倪赞林：回头看博士阶段，我觉得自己的科研能力主要经历了三个阶段的成长：学会表达科研、学会开展科研，以及学会选择科研问题。
最开始写论文时，我总是按照实验开展的顺序，把做过的事情完整记录下来，更像一份实验报告。后来，黄老师和同组的王语霖师兄不断强调，论文不是记录自己做了什么，而是帮助读者最快理解你的贡献。这让我逐渐学会站在读者的角度组织论文，而不是站在作者的角度罗列工作。这种思维方式，对我后来的科研影响非常大。
第二个变化发生在做实验的方法上。刚开始，我总希望一次把所有实验做完整、所有参数调到最好，但后来发现，高效的科研不是做更多实验，而是通过合理的实验设计，更快验证自己的判断。经历了很多失败之后，我才逐渐建立起更加系统的实验设计和研究推进方式。
最后，也是我认为最重要的一点，是科研选题的变化。早期，我更多是在已有方向上做局部改进。但后来我逐渐意识到，真正有价值的研究，不只是回答已有问题，而是发现那些值得被重新提问的问题。与其围绕已有结论做增量优化，不如主动去检验那些被广泛接受、却未必真正成立的前提。从那以后，我更关注问题本身，而不是急于寻找解决方案，这也逐渐成为我现在做研究最重要的方法论。
王慎执：对我影响最大的并不是某一篇论文，而是不断进入陌生领域、快速完成学习并形成研究能力的过程。
我的科研训练从本科开始。在商汤科技实习期间，我花了几个月时间从没有用过GPU的小白阶段入门视觉异常检测，到完成自己的第一篇第一作者论文并被CVPR接收。那段经历让我真正体验了一次完整的科研过程，也建立了面对新问题时不断学习的信心。
进入黄老师课题组后，我原本希望继续做计算机视觉，但黄老师建议我转向强化学习。当时我几乎没有相关基础，黄老师却告诉我：“不会就自己去学，没有什么东西是学不会、做不了的。”这句话让我印象非常深刻。从那以后，我开始系统学习强化学习，并逐渐在这一方向发表了一系列工作。这次跨方向的经历让我意识到，研究者不应该被已有积累所限制，而应该敢于进入新的领域。
2022 年底，ChatGPT 发布后，黄老师不断组织组会，讨论大模型带来的变化，并鼓励大家思考如何把自己的研究方向与大模型结合。起初，我认为大模型离自己的研究还比较远，但随着不断讨论，我开始尝试将强化学习与大语言模型结合，先后开展了 LLM Agent、LLM Post-training 等方向的研究。在发表论文的同时，我也训练和开源了下载量超百万的Llama3-Chinese-Chat等系列开源模型，并登上了HuggingFace Trending榜第7。
后来，在Qwen团队开展研究期间，我完成了《Beyond the 80/20 Rule》工作。这篇工作从当时团队遇到的真实训练问题出发，创新性地从Token Entropy角度建模语言模型的思维链，发现了占少数的高熵token的发挥着关键的决定思维链后续应该如何走的分叉 (forking) 作用，占多数的低熵token则跟随着高熵token决定的方向来延续思维链。这是我第一次成功地从理解机理的角度来解释实际问题，并进一步用以改进实际方法。
随后，我与赞林、乐洋开始合作推进《The Flexibility Trap》。我们三个人分别从扩散语言模型、强化学习、Token Entropy和推理能力边界等不同方向进入同一个问题。正因为研究背景不同，每个人都能够提供一种新的解释视角。最终，我们逐渐形成了“关键分叉被绕开，导致探索空间收缩”的完整理论框架。我越来越觉得，真正有价值的合作，并不是大家拥有相同的知识背景，而是能够用不同的方法共同回答同一个问题。
乐洋：我的科研能力主要经历了三次提升：建立科研基本功、形成独立科研能力，以及逐渐建立科研品味。
第一次成长发生在本科阶段做计算机视觉研究时。虽然当时论文产出并不算突出，但我几乎独立完成了整个研究流程，从代码搭建、数据处理到实验调试、结果分析，都亲自经历了一遍。这段经历最大的收获不是发表论文，而是让我真正理解了一项科研工作是如何从零开始完成的。
第二次成长发生在转向强化学习之后。大四期间，在黄老师的推荐下，我前往新加坡实习，企业导师康炳易对我的影响非常深。他不仅指导具体研究，更重要的是教会了我如何组织科研思路、设计研究路线，以及如何不断根据反馈完善一项工作。那段经历让我第一次具备了独立推进完整科研项目的能力。
第三次成长，则让我开始重新思考什么才是真正有价值的科研。康炳义曾告诉我，他认为真正重要的研究只有两类：一类是帮助整个社区增加新的认知，另一类是真正简单、有用，并最终能够被广泛采用。这句话后来一直影响着我的研究选择。
2024 年初，OpenAI 发布 Sora 后，我们开始思考一个问题：它究竟是真的学会了物理规律，还是只是学会了逼真的视频生成？围绕这个问题，我们花了半年多时间完成了一项研究，最终发现，当时的视频生成模型更多是在已有视频分布上进行组合泛化，而不是真正理解了物理规律。这是我第一次感受到，一项研究可以真正回答社区长期关心却没有明确答案的问题。
后来开展 RLVR 研究时，我延续了同样的思路。相比直接关注模型性能，我更希望理解为什么它有效、它真正学到了什么。最终，我们发现，RLVR 更像是在预训练模型已有能力基础上提升采样效率，而不是像 AlphaGo 那样从零发现全新的策略。回头看，我越来越觉得，科研最重要的不只是提出新的方法，更重要的是帮助大家重新理解已有现象。
ZP：在黄高副教授课题组这些年，对你们影响最大的是什么？黄老师有哪些科研理念、研究方法或做研究的习惯，至今仍影响着你们？站在你们的角度看，这个实验室最特别的地方是什么，它为什么能够持续做出原创性的研究？
乐洋：我认为，黄老师对我们影响最大的一点，是他非常出色的科研品味。很多人会觉得黄老师主要做计算机视觉和网络架构，但实际上，即使面对 RLVR、大语言模型等全新的方向，他也总能很快抓住问题的本质，判断哪些已经是社区共识，哪些仍然值得重新回答。很多时候，我们带着一个想法去讨论，黄老师并不会直接告诉我们应该怎么做，而是不断追问：这个问题真的重要吗？真正的新信息在哪里？即使不参与每一个实验，他也总能帮助我们把研究问题、论文逻辑和核心贡献梳理得更加清晰。我觉得，这种判断真正重要问题的能力，就是科研品味。
王慎执：对我影响最大的，是黄老师一直鼓励大家主动进入新的领域，而不是停留在自己的舒适区。我原本做计算机视觉，后来黄老师建议我转向强化学习。当时我几乎没有相关基础，他鼓励我不要害怕学习新领域。后来，大模型兴起后，实验室又很快开始讨论 LLM、Agent、Post-training 等新问题，鼓励大家不断学习、根据时代的趋势调整研究方向。我觉得，黄老师培养我们的，不只是做某一个方向的能力，更重要的是面对未知问题时快速学习、独立开展研究的能力。这种能力，比具体做哪一个方向更加重要。
倪赞林：