「模型能力已经够了,要卷就卷 infra」|对谈戴冠兰:Runta 创始人



🚗本周「十字路口」的嘉宾是 Runta 创始人/CEO 戴冠兰。Runta 是 Agent Infra 领域的硅谷明星创业公司,刚完成由 a16z 投资的 2000 万美元 Seed 轮;Jeff Dean、李飞飞等也以个人天使身份参与投资。


在创立 Runta 之前,冠兰在云计算与基础设施领域深耕十余年:曾任 Cloudflare Edge 边缘云核心技术负责人,后在作为早期核心成员加入 Kong ,担任工程总监,负责云原生网关和 AI 网关的研发。


他选择在此刻创业的判断很直接:模型能力已经够了,要卷就卷 infra——未来一定会有比人类更多的 agent,AI 领域的关键问题将变成:它们跑在哪?怎么管?出了事谁来负责?


在这期对谈里,我们从 token 文化的急转弯聊起:短短半年,token maxxing(用得越多越光荣)迅速转向 token minimizing(ROI、预算、归因、节流),这背后折射出了哪些值得关注的信号?


此外,你还会听到:


•当软件的执行从“逻辑清晰的确定性”变成“LLM 的概率性”:AI 正在如何动摇整个数字世界的地基?


•AI 时代的“水电煤”将由谁来建?为什么这一次,创业公司反而比巨头更有机会?


•几十亿个 agent 同时开工的世界会长什么样?今天的互联网和云,接得住吗?


•为什么人类会在一次次点击「允许」中,不知不觉交出边界与控制权?


•为什么说“未来 10 个月,必然会有一场灾难性的事故”?那场事故,又会如何把所有人重新“教育”一遍?


快问快答


👦🏻 Koji


我们从传统的快问快答开始,帮助大家尽快了解你。请问冠兰,你的年龄?


👨🏻‍💻 冠兰


35。


👦🏻 Koji


毕业院校是?


👨🏻‍💻 冠兰


美国东北大学。


👦🏻 Koji


你的 MBTI 和星座呢?


👨🏻‍💻 冠兰


天秤座。MBTI 在 INTJ 和 ENTJ 之间横跳,我个人认为偏 I 多一些。


👦🏻 Koji


一句话介绍现在的公司和产品。


👨🏻‍💻 冠兰


我们认为未来的 AI 智能体数量会比人类更多。面对未来这几十亿个 Agent,它们到底跑在哪,跑起来怎么管?Runta 就是为这些 AI 智能体打造的执行底座。


👦🏻 Koji


目前团队的规模是?


👨🏻‍💻 冠兰


我们现在团队在 10 人左右,背后还有成百上千个 Agents 在干活。


👦🏻 Koji


一句话介绍一下创业之前你做过什么。


👨🏻‍💻 冠兰


我之前在 Cloudflare 做 Edge 边缘云平台,在 Kong 做过网关跟云。加起来大概差不多十多年,一直都在为软件和 SaaS 时代打造 Infra。


Runta种子轮融了2000万美元,如何拿到Jeff Dean和李飞飞的个人投资?


👦🏻 Koji


Runta 这一次的 Seed 轮融了 2000 万美元,由 a16z 领投,Jeff Dean 和李飞飞以个人身份参与。我比较好奇,你是怎么拿到他们两位个人天使投资的?


👨🏻‍💻 冠兰


首先,大家对 Jeff Dean 可能都很了解,他是整个分布式系统和系统工程领域的传奇,亲历了 Google、DeepMind 等各个时代的 Infra 演进。


我之前有幸跟他做过一次非常深度的对谈。他问了我一个让我印象极深的问题:“因为 LLM 让计算机系统最底层的执行单元变成了概率性,Infra 这一层要怎么构建?”


这其实是一个很难回答的问题。因为过去这几十年,整个系统工程中诸如重试、幂等、事务、恢复这些设计,都是建立在“软件是确定性”的基础之上的。同样的一套东西输入进去,输出结果必须是一致的。如果有变,那一定是个可枚举的异常。他问这个问题,相当于是在考察:如果最地基的那块石头不见了,上面的大厦要怎么立起来?


当时我的想法是,不确定性确实是大模型本身的底色。但是一旦 Agent 要真正进入生产环境,分布式系统的复杂度反而是变多的。诸如恢复、隔离、分叉等需求都会大幅上升。


如果底层的基础设施做不好这些事,就只能逼着大家把所有的复杂度压到 Runtime 层去解决。


上一代的 Infra,我们解决的是物理机怎么跑、资源怎么隔离,让开发者不用去关心硬件。而在这一代,我觉得最核心、最难解决的问题变成了执行本身怎么做。


我跟 Jeff Dean、飞飞交流过很多关于这一代应该怎么迭代的想法。归根结底,现在执行层已经变成了整个 AI 系统工程中最难的一部分。


现在 Agent 运行的周期越拉越长。以前可能只是一个几分钟、几个 Turn 的 Chat,现在动辄是跑几个小时甚至数天的 Agent。在这样的场景下,传统的 Infra 根本无法很好地处理隔离、分叉、热迁移这些高难度问题,这里面的挑战非常大。


另外,我觉得投我一个主要原因在于,我之前在 Cloudflare 与 Kong 参与过上一代 Infra 从第一性原理从头构建的过程。


👦🏻 Koji


当时的经历和今天有哪些关联性?


👨🏻‍💻 冠兰


我们刚开始做的时候,甚至连 Kubernetes、Container 都没有。我们不得不从第一性原理和最底层、最根本的需求去推导一个系统应该是什么样,并见证了它最终变成现代互联网基石的过程。


在 Kong 的时候,我们每天要处理上千亿次的 API 请求 ——因此在这样一个规模下,哪怕是 0.00001% 的出错概率,放到日常运行中都是必然会发生的故障。


我经历过、也处理过这个量级的系统复杂度,这种底层的实战经验让他们对我们有了信心。


当时 Jeff Dean 还想多投一些,我说份额实在是不够了。拒绝 Jeff Dean 的追加,现在想来也是个挺有意思的经历。


a16z为何罕见地为一家Seed轮公司专门写Blog?


👦🏻 Koji


a16z 投资的公司很多,但很少见到他们投了一个极其早期的团队,还特意写一篇 Blog 来介绍。当时他们专门写了一篇《为什么我们投 Runta》。你觉得他们如此重视你们的原因是什么?


👨🏻‍💻 冠兰


确实,一般种子轮他们很少这么做。这篇文章也是合伙人 Martin 亲自写的,是因为他看到了这不仅是一个 Feature 或产品,而是一个平台级的代际机会。


在他看来,这一次是一个 Compute 的代际迁移。如同当年我们从客户端服务器架构、数据中心到虚拟化、再到容器化这一波波的浪潮演进,每一次都会产生极其巨大的代际变化。


以前的每一代我们托管和管理的都是静态软件和服务,而这一次,底层托管的对象变成了 Agents。如果这个逻辑成立,它就是一个极其庞大的平台级机会。那篇文章把这个逻辑拆解得很透彻,非常推荐读一读。


👦🏻 Koji


用一句特别简单的话来给大家解释一下,Runta 到底替客户解决的最关键问题是哪些?


👨🏻‍💻 冠兰


我们做的是最底层的 Infra。我们要在一个非确定性(Non-deterministic)、概率性(Probabilistic)的 Workflow 下,加入确定性的控制和管理,帮助企业把智能体真正用起来。


比如,Agent 跑在哪里?如何保证它在工作时的权限安全?它要访问客户数据、触碰生产环境权限,在它触碰的那一刻,我们需要通过执行层对它进行严格的隔离、管控和审计,并支撑它 Scale 起来。


这就是 Runta 在做的事。


Token Maxxing为何在三到六个月内转向Token Minimizing?


👦🏻 Koji


我们先来聊聊最近整个 AI 和 Agent 领域的特别大的一个变化:大约几个月前,大家还在谈论 Token Maxxing,企业鼓励员工消耗大量的 Token,甚至以此为荣。但最近画风突变,大家开始追求 Token Minimizing 了。


在你的观察中,这个反转的来龙去脉是什么?


👨🏻‍💻 冠兰


最开始,o1 这样的推理模型出来时,大家发现只要给大模型思维链或者足够的思考步骤,它就会变得极其聪明,哪怕消耗更多 Token 也值得。


渐渐地,这个逻辑被推演成了企业组织管理的一种手段:员工消耗的 Token 越多,说明他越 AI Native,这成了一个可度量的 KPI,因此有了 Token Maxxing,企业开始极力推动变革,尤以 Meta 和亚马逊这些巨头为代表。


去年年底,我走访一些前沿客户 and AI Lab,甚至看到他们办公室墙上挂着一个显示器,每天轮播本周谁消耗的 Token 最多,排名靠前的员工还会有奖励。


到了极致,像 Meta 和 Stripe 这些公司甚至把 Token 的使用量和年底业绩考核直接挂钩。这时候,事情就彻底变味了。


👦🏻 Koji


这种机制导致的变味,最极端的例子是什么?


👨🏻‍💻 冠兰


我听说最极端的,是有些员工不管什么简单的日常工作,都非要用最贵的 SOTA 模型去跑。甚至为了刷 Token 指标,有人会在代码里故意写一些毫无意义的死循环去跑模型。


今年 3 月,黄仁勋在演讲中提到:一个年薪 50 万美元的工程师,如果一年没有烧掉 25 万美元的 Token,说明他不够强。现在回过头来看,那一波确实有些过热了。


从极力鼓励使用,到企业纷纷踩刹车控制预算,反转只用了 3 到 6 个月。


👦🏻 Koji


发生这种戏剧性反转的本质原因是什么?


👨🏻‍💻 冠兰


大家开始重新计算 ROI 了。特别是最近 Uber 的 CFO 公开说,我们在 4 月份就已经把全年的大模型 Token 预算给用完了,但我们到底换来了什么?


首先是点火的感知期已经结束,AI 的普及教育已经完成;其次是 Token 真的非常花钱,企业过去大大低估了规模化部署模型的费用。综合这些因素,大家意识到 Token Maxxing 可能不行了。


👦🏻 Koji


咱们自己也是创业团队,目前大概 10 个人,你们在内部是怎么管理员工们使用 Token 和 API 的规则的?


👨🏻‍💻 冠兰


我们刚开始也招了很多传统 Infra 的人,也是直接开放 Unlimited Token,给大家一种 Token 像水一样免费的错觉。


现在我们引入了阶梯制。我给团队订阅了几个最高规格的 Ultra Plan,日常可以随便用。如果额度用完,需要向我提交申请,说明这些 Token 用在了哪里。


其实就是通过在流程里人为加入一点点小摩擦,让大家意识到这东西不是免费的,在调用时会自发地思考目的。不过整体上,我依然给团队保留了非常宽松的试错空间。


「模型能力已经够了,要卷就卷 infra」|对谈戴冠兰:Runta 创始人


为何放弃在Kong的位置,第一次以CEO身份创业?


👦🏻 Koji


你在 Cloudflare 和 Kong 工作了很长时间。这两段经历里,你在公司处于什么阶段,具体负责了什么?


👨🏻‍💻 冠兰


我相当或者是最早几个工程师加入,是 Cloudflare 核心 Edge 边缘云的技术负责人。有幸参与了边缘缓存、WAF(网络防火墙)以及早期 Worker 系统(端侧计算平台)的搭建。


我主要解决的问题是,如何为软件服务搭建边缘网络,帮助客户端更快地访问最近的节点,同时提供网关级别的安全与加速。


在 Kong 的话,解决的也是类似的,就是企业网关。比如你点外卖、调取 API 服务,如何做限流、寻址和导流。在 Kong 的阶段,我深度接触了大量世界 500 强的客户,帮助他们做微服务平台的搭建和数字化转型落地。


👦🏻 Koji


所以这一次做 Runta 算是你第一次担任 CEO 出来创业,当时因为什么做出了这个决定?


👨🏻‍💻 冠兰


以前服务企业客户和开发者,我发现大家都极度渴望智能体的落地。大模型是将电力转化为 Token,而 Agent 的工作是把 Token 转化为企业实实在在的商业价值。


但 Agent 有个本质属性:它不像传统的软件,它是概率性执行的。它每次跑,甚至生成的代码都是不一样的,完全无法用既定的规则去穷尽它。


同时它跟人类也不同。人干砸了是要背锅的:比如 Koji 投砸了,LP 会找你算账,个人名誉受损;我之前服务的系统崩了,CEO 会找我。人类社会有一种“背锅力”在约束着责任。但 Agent 出问题谁来负责?大模型厂商、写 Agent 的开发者,还是企业?没人说得清。


它既像软件,又像人,却又不完全是两者。我出来做 Runta,是因为我觉得传统的运行架构完全不适合这样的新 Workflow。这里面存在一个非常巨大的基础设施空白。


云和 SaaS 时代的 Infra 是针对确定性软件设计的。面对完全非确定的 Agent,执行底座应该长什么样?这件事情让我非常着迷,也是我决定放弃 Kong 的高管待遇,出来创业的核心原因。


👦🏻 Koji


如果大家用的是 Codex 或 Claude Code,他们可以用 Runta 吗?还是必须要自己开源部署自己的 Agent 才有用的必要?


👨🏻‍💻 冠兰


可以用,任何 Coding Agent 我们都支持,我们是一个完全开放的执行平台。


比如,当你使用 Claude Code 来收取你的邮件。它需要读取哪些邮件?不应该访问什么?它的数据库、密钥凭证怎么管?如果把它放在我们的执行层,就能获得天然的弹性和全面的管控能力。


我们提供的是一套高度定制、云托管的虚拟化平台。我们有自己定制的系统内核和网络机制,我们对具体跑什么 Agent 完全不设限。


👦🏻 Koji


目前接触下来的客户,觉得 Runta 带给他们最大的价值是什么?


👨🏻‍💻 冠兰


特别像这个月我聊下来的情况。大家对预算、Token Maximizing、Compute Spending 都很关注,比如 Agent 跑在什么地方、跑得比较多的话怎么用更弹性、更能伸缩的方式去跑。


另外就是金融类的客户,他们有蛮多关于 Governance 能力的需求。他们特别希望让 Agents 来干真正的活以跟竞争对手拉开差距,但同时又特别担心 Agent 一旦跑起来会有不可控情况。


最近一个安全类的调研发现,世界 500 强的公司里,大部分使用 Agent 的公司已经被泄露过机密或客户信息,这是一个巨大的问题。


Agent Infra为何更可能是创业公司的机会,而不是公有云的生意?


👦🏻 Koji


为什么这会是一个创业公司的机会,公有云巨头不能做吗?


👨🏻‍💻 冠兰


现有的公有云完全是为上一代 SaaS 和传统软件而设计的。从底座架构、资源分配到计费模型,包袱非常重。


这很像 GPU 的爆发。上一代的数据中心都是为 CPU 搭建的,这一波以 GPU 为主时,传统的 Data Center 就不得不面临彻底的重构,从而诞生了大量 Neo Cloud。


公有云当然也会跟进,但它们自身的利益和现有的技术体系在打架。这种颠覆性创新的机会往往更偏向轻装上阵、没有历史包袱的创业公司。


面对Anthropic和OpenAI,Runta的差异化在哪里?


👦🏻 Koji


除了公有云,像 Anthropic、OpenAI 这样的大模型厂商,也在布局自己的 Agent Infra。相比他们,你们的差异化优势是什么?比如 Anthropic 已经发布了 Managed Agent 的系统服务。


👨🏻‍💻 冠兰


确实,每个投资人也都会问我们这个问题。


但从企业实际落地的逻辑来看,没有任何一家企业会把业务深度绑定在单一的模型或单一的云服务上。多模型、多云、分散风险和成本把控是企业的刚需。


另外,对大模型厂商而言,他们最核心的使命永远是把基础模型的能力提上去,做应用和 Infra 也是为了获取足够多的信号来改善模型。


所以基础模型和 Infra 执行底座在产业分工上是截然不同的。


👦🏻 Koji


那你们认为,未来最大的潜在对手会来自哪里?


👨🏻‍💻 冠兰


我觉得反而是那些积极转型的 Neo Cloud 或者是上一代做 Serverless 的巨头。他们经历过上云这波转变,底子还在。


但还是那句话,对他们而言这只是众多业务中的一条支线,但对于我们,这是我们 24 小时唯一的专注。专注的团队更能看到最底层的东西。


E2B、Daytona式Sandbox为何难以承载长程Agent?


👦🏻 Koji


现在有些专注在做 Agent Infra 团队比如 E2B 和 Daytona,他们主要是做 Sandbox ,你们和他们有什么竞争和区别?


👨🏻‍💻 冠兰


Sandbox 技术比如 Firecracker,其实来自于上一代 Serverless(比如 AWS 的 Fargate),针对的是短时任务(几分钟或一小时内结束的任务),做短暂的代码隔离并给出一个结果。如果只是用来快速跑一段短代码,这套方案很好用。


但是现在的 Agent 正在从短平快变得跑得越来越长。传统的 Serverless 沙