“当谷歌无法承载「疯狂假设」，这位 27 年的 Google 功臣，能否能用「不完美」的硬件终结 AI 的「暴力美学」？”
在硅谷的程序员圈子里，长年流传着一个堪比传说的段子：“当 Jeff Dean 提交代码时，编译器会反过来问他是否需要优化。”
但这并不仅仅是个段子。作为 Google 甚至整个现代互联网底层物理法则的奠基人，Jeff Dean 的履历就是一部浓缩的近代科技史：从定义大数据时代基础设施的 MapReduce、BigTable，到一统深度学习江湖的 TensorFlow，再到打破摩尔定律、支撑起 Google 算力霸权的 TPU。他不仅是 Google 搜索帝国的总架构师，更是过去十年全球 AI 工程化范式的“造物主”。
然而，就在 2026 年 8 月 6 日，Jeff 做出了一个令全球科技圈为之震动的决定，正式宣布辞去 Google 首席科学家一职，与Google 传奇工程师 Sanjay Ghemawat，以及大模型算法天才 Oriol Vinyals、AutoML 先驱 Quoc Le 一起，共同创办公益性质的 AI 初创公司 Discovery Loop。
在 Jeff Dean 的离职声明中，他解释了自己离职创业的原因：
这份体面的声明背后，字里行间却透出顶尖科学家对“大公司病”的无奈与对纯粹创新的极度渴望。
“从 25 人到 190,000 人”，这不仅仅是一个数字的增长，更暗示着组织架构的极度膨胀。在十万人的巨头中，KPI 导向、规避风险、跨部门协同的内耗，正在稀释技术探索的纯粹性。
对于 Jeff Dean 这样始终在一线写代码、做“餐巾纸算术”的极客而言，他怀念的显然是当年那个“25人车库团队”的敏捷与锐气。
事实证明，大象不仅难转身，甚至已经容不下最疯狂的舞步。
其实，Jeff Dean 的离开早有伏笔。就在他宣布离职的前几天，他作为重磅嘉宾参加了由 YC 管理合伙人 Diana Hu 主持的《Startup School 2026》对谈。
当时，外界普遍以为这只是一位大厂德高望重的前辈在给年轻人们上“职业规划课”；但直到离职消息爆出，人们才恍然大悟：这根本不是什么指导意见，这是 Jeff Dean 提前一周面向全世界做的一场“公开路演”。
在这场长达近一个小时的深度对话中，Jeff Dean 回顾了当年催生 TPU 和 MapReduce 的疯狂思想实验，精准剖析了当前 AI 发展的算力瓶颈。而雷峰网在反复复盘这段对话后发现，Jeff Dean 其实已经在三个维度的“蛛丝马迹”中，完整拼凑出了他这家初创公司（Discovery Loop）的核心原型与战略方向：
01
线索1：认为小团队在垂直领域的突破，
胜过大厂的“大而全”
在访谈的中段（约 25 分钟处），Diana 抛出了一个所有初创者都关注的问题：“在巨头林立的时代，两三个人组成的团队还有赢的机会吗？”
Jeff Dean 并没有夸奖 Google 的资源优势，反而一针见血地指出了大厂的死穴：
“Google 正努力构建非常通用、几乎能做任何事情的模型，这意味着我们没有太多精力去关注特定的垂直领域。”
他以 AlphaFold 为例指出，在材料科学、芯片设计或生物计算等硬核科学领域，大厂的通用大模型往往束手无策。而 AlphaFold 的成功不在于算力堆叠，而在于那是“一个只有极少数核心研究员的小组，对特定领域有极度痴迷和顶级技能”。
作为 Google 首席科学家，Jeff Dean 管理的是成千上万人的大团队，但他却在访谈中流露出对“2-3 人极客团队”能通过高度专业化模型（Niche Model）实现“极致优雅”的向往。这意味着，他认为在目前的工程节点，大厂的组织冗余已经成了阻碍。Discovery Loop 的创立，正是他回归“小团队改变世界”的践行。
02
线索2：渴望激进的硬件范式革命，
而非大厂的稳妥路线
当主持人问及他过去抛出窗外的“疯狂假设”时（约 37 分钟处），Jeff Dean 提出了对下一代计算范式的期望。他抛出了一个极其“出格”的思想实验：
“60 年来，整个硅芯片行业付出了巨大的努力来制造错误率极低的晶体管……但如果我们试图用‘每天可能有 20 次错误’而不是‘每一百万年一次错误’的不可靠晶体管来构建一个系统，会发生什么？”
这个“疯狂的想法”在 Google 内部几乎是不可能立项的。Google 的整个商业帝国和搜索、云服务基础设施，都建立在极度稳定、确定性的硅芯片（如 TPU）之上，巨头的试错成本太高，不容许这种推翻 60 年行业基石的冒险。
Jeff Dean 在离职前抛出这个观点，强烈暗示他已经厌倦了在现有 TPU 架构上的“微调”，他渴望的不再是稳妥的路线，而是一场从物理底层出发的、激进的硬件与算法联合革命。
03
线索3：“工具带”理论与
重返 1999 的初心
在访谈末尾（约50分钟处），主持人提出了一个“回归初心”的假设：“如果把 1999 年加入 20 人初创公司 Google 的年轻 Jeff Dean 传送到今天，你会选择加入前沿实验室，还是开一家公司？”
Jeff Dean 的回答虽然委婉，但倾向性极强。他强调，在成熟组织里有现成的平台：
“但是作为一家非常小的初创公司……在解决这个特定问题的过程中存在很多风险。但这也可能带来令人难以置信的回报。”
随后，他抛出了著名的“工具带（Tool belt）”理论：“你要把你的研究生涯看作是拥有一个装满各种技术的奇妙工具带。你总是希望在工具带上添加新工具。”
这句话正是他离职的最终注脚。在 Google 效力了 27 年，他已经打造了分布式系统、深度学习框架、AI 专用芯片等无数顶级“工具”，拿到了在这个组织里能拿到的一切。对于一个永远渴望探索未知的顶级极客来说，留在 Google 已经无法为他的工具带增添新工具了。
如果解读Discovery Loop的名字不难发现，Discovery宣告了这家公司将向 Google 无法深入的硬核科学全面迁徙，Loop则锁定了 AGI 下半场最关键的工程范式：自动化与递归。
只有离开，只有重新面对创业的生存压力与未知的科学黑洞，才是这位 AI 宗师为自己强行挂上“新工具”的唯一途径。
以下是雷峰网根据视频对 Jeff Dean 的访谈进行精编整理的全文（本对话经过删减冗余词汇，保留核心洞察）
04
Jeff Dean 对谈 YC：
未来属于那些在复杂里寻找结构的人
预测未来：自动化 AI 实验与专用推理硬件
Diana:欢迎Jeff。你构建了 MapReduce、Bigtable、TensorFlow、TPU、Gemini 等众多划时代的产品。2025 年 5 月在 AI Ascent 大会上，你曾预测 AI 已经达到了初级工程师的水平。距离那个预测已经过去一年，我们现在进展如何？
Jeff：模型在处理基于智能体（Agent-based）、长时间运行的编码任务上能力显著提升。根据对“初级工程师”的确切定义，我认为这个预测相当准确。而且，执行复杂任务能力的增长速度超出了我的预期。除了编程之外，基于智能体的系统正开始在更多领域大放异彩。
Diana：那么，关于 2027 年，请给出你的下一个预测。
Jeff：机器学习系统本身的自动化程度将大幅提高。简单来说，就是让 ML 系统通过自动化实验循环来提升自我能力：将复杂问题拆解为子问题，在紧凑的自动化实验循环中运行，汇总结果，并从这种完全自动化的“问题分解与实验”机制中得出一个改进后的新系统。这种方法不仅适用于 ML 本身，也适用于任何拥有可衡量目标的科学和工程领域。
Diana：历史总是惊人的相似。2001 年，你和 Sanjay（注：Sanjay Ghemawat，Google 传奇工程师）把整个搜索索引装进内存，让 Google 搜索速度发生了根本性的改变。2026 年那个属于当下的“装进内存”时刻是什么？
Jeff：高性能、低能耗的专用推理硬件。推理是让智能体系统走向普及的关键。延迟至关重要，而硬件专用化是制造比 GPU 或 TPU 等通用计算设备更节能、延迟更低系统的根本途径。
Diana：如果延迟降低 50 倍，能用它做些什么？
Jeff：我们可以构建出能够连续运行几天甚至几周、完成极其复杂任务的智能体系统。例如，你可以让智能体去用全新的编程语言重构整套软件系统，以获得更好的安全性或性能，而智能体确实能够以非常严谨的方式去实际完成它。
从“餐巾纸算术”到硬件与算法的解耦
Diana：你非常擅长“餐巾纸算术”（Napkin Math，指快速估算）。2013 年语音识别在 Google 刚起步时，你算了一笔账：如果每个用户每天使用 3 分钟语音识别，Google 的服务器机队规模必须翻倍，这极其昂贵。这最终促成了 TPU（张量处理单元）的诞生。
Jeff：是的。当时深度学习语音模型的错误率直接减半，相当于实现了领域内 20 年的进步。我们预判用户的使用量会剧增，而 CPU 的计算成本过于高昂。因此我们提出了 TPU，其核心在于专门针对低精度稠密线性代数进行硬件设计，这正是现代机器学习算法的底层核心。
如果专门构建一个仅用于低精度稠密线性代数的芯片，尽管它不能运行 Chrome 或 Word，但对 ML 推理极为高效。几年后投产的 TPU 芯片，其能效达到了当时 CPU 和 GPU 的 30 到 80 倍，延迟降低了 20 到 30 倍。
Diana：未来创业者今晚应该做个怎样的“餐巾纸算术”，才能构建出下一个像 TPU 一样重要的东西？
Jeff：思考你关注的领域中的核心瓶颈是什么。抛开当前现有的解决方案，从第一性原理出发：有没有某种截然不同的途径，能带来一到两个数量级（10x - 100x）的性能或能力提升？
Diana：许多分布式系统工程师都将你写的《每个工程师都应知道的延迟数字》视为圣经。如果更新一个 2026 年 AI 版本的延迟数字列表，应该关注什么？
Jeff：重点在于这几个关键指标：加速器的主内存到片上内存再到乘法器单元的带宽；执行一次乘法操作所消耗的能量；芯片间的互连带宽及可连接芯片上限；以及从 500 个芯片扩展到 10000 个芯片时网络带宽的衰减。
Diana：你曾提到过，现在衡量一切的单位变成了“能量”。进行一次数学计算大约需要 1 皮焦耳，但移动数据和进行数据 I/O 的成本是它的 1000 倍。
Jeff：仅仅将数据从 HBM（高带宽内存）读入处理器，就存在 1000 倍的能耗差距。这深刻塑造了现代 ML 的形态。如果不存在这 1000 倍的差距，我们甚至不需要批处理（Batching）。但为了分摊数据移动的能量成本，我们不得不一次性对大量示例或 Token 进行批处理。然而，大批次处理对于低延迟需求并不友好。硬件底层的能源成本，直接限制了上层系统架构的设计。
Diana：对于训练来说，大批次是为了硬件效率。但对于推理，你是否在思考某些改变？
Jeff：是的，推理更关注极低延迟。未来的推理硬件需要极大化地减少数据移动，并采用极低精度的专用计算操作，直接将所需的精度类型固化在硬件中，从而获得极致的效率。
上下文工程：如何编排智能体与寻找高价值问题
Diana：以前 AI 的进步依赖于更大规模的模型和更多的数据。而在过去一年里，竞争转向了检索工具、内存、智能体调用等“上下文工程”。
Jeff：模型只是系统的一小部分。真正重要的是构建一个解决实际问题的整体系统。模型被训练的数据像是将数万亿 Token 融入千亿参数的“汤”里，而上下文工程能够将特定问题的清晰信息直接喂给模型。理解工具可用性、拆解问题、迭代调用并评估结果——这种复杂多智能体系统的编排将变得日益关键。
Diana：上下文工程不需要几万张 GPU，每个人都可以通过 API 开始尝试。开发者应该如何精通这项技能？
Jeff：不要试图去调整模型参数，而是通过为模型制定更好的指导方针和编写“技能”，让模型学会如何使用各种工具。
比如 Sanjay 和我最近在优化 Google 内部的底层库，我们编写了一项“技能”传授给模型：教它如何按照特定顺序执行微基准测试、测量性能、修改代码、再重新测试性能。模型学会这项技能后，便能在代码优化上实现自我迭代。我们将人类解决问题的经验抽象成技能传授给模型，其效果显著。
Diana：现在许多智能体在运行到 30 或 50 步时容易偏离轨道，瓶颈出在哪里？
Jeff：当智能体偏离其训练数据的“舒适区”时，性能就会发生骤降。
要解决这个问题，首先可以通过明确的技能和提示，引导智能体保持在已知的“最佳路径”上；其次是采用多智能体系统——让多个智能体尝试不同路径，再由专门的评估模型挑选最成功的一种。在推理阶段分配计算量，对解决方案的空间进行搜索，是提高长时间运行智能体可靠性的通用且有效的方法。
Diana：在大模型时代，初创团队和两三人的小团队应该在哪里寻找胜算？
Jeff：大公司倾向于构建极度通用的模型，很难关注所有特定的垂直领域。小团队的优势在于：在一个特定的垂直领域中，结合精心设计的交互界面、专用模型以及一套特定的技能，打造出令人愉悦、高精度、高质量的产品。
在选择方向时，有两个标准：
寻找通用模型成功率极低的问题：寻找那些通用模型只有 0% 或 1% 成功率的领域，而不是已经达到 20% 成功率的领域。因为后者意味着通用模型很快会通过规模化迭代超越你。
利用特定数据与专用领域模型：例如 AlphaFold，它不是通用模型，而是专攻蛋白质折叠，在材料科学、芯片设计等领域，这类专用模型能够以极低的算力成本提供极高的准确率。
核心品味：从代码撰写到“质疑假设”的思想实验
Diana：当代码都可以由智能体自动生成时，未来的工程师最稀缺的技能是什么？
Jeff：核心品味，也就是决定去做什么问题的能力。研究人员可以拥有所有工具，但最大的挑战在于：你把时间花在什么问题上？成功