达里奥·阿莫迪可以说是现在硅谷最「讨人厌」的人，甚至没有之一。
在曾经共事的人眼中，达里奥是个精力旺盛、极其固执的家伙，吵完架后，他有时会一个人躲进办公室的图书室，看 YouTube 视频平复情绪。
他喜欢追问，还是大学生的达里奥就曾和朋友认真讨论，究竟多少只鸡的生命才能抵得上一个人的生命。
正值 Anthropic 筹备上市之际，《纽约时报》发表了一篇创始人达里奥的人物调查报道，文中采访了达里奥多位同学、老师、朋友和同事，但达里奥本人却拒绝了采访。
其中有些故事相当荒诞，有些令人唏嘘，还有些读起来，简直像硅谷版《纸牌屋》。
最后，《纽约时报》用两个词来概括达里奥「被嫌弃」的前半生，一个是「理性主义」，一个是「有效利他主义」。
01 害怕考试的达里奥
1997 年，14 岁左右的达里奥还在旧金山读八年级。
那年，学校评选最有可能在未来取得成功的学生，达里奥与另一名同学一起获选。
那时候的达里奥还不知道，自己以后会和数以千亿美元计的资本、全球最先进的算力，以及人类是否会被 AI 毁灭的问题联系在一起。
进入旧金山著名的公立高中 Lowell High School 后，达里奥的数学和科学天赋愈发明显，他甚至提前跑到加州大学伯克利分校选修课程。
但老师们记住的，并不只是一个成绩优秀的少年。
物理老师 Richard Shapiro 回忆，达里奥经常因为考试表现焦虑，即使最后考得不错，也总觉得自己没有发挥到最好。
Shapiro 不得不一遍遍提醒他，「达里奥，放松一点！」
2001 年，达里奥进入加州理工学院，后来转到斯坦福大学，最终前往普林斯顿攻读博士。
但有一点似乎始终没变，他很难对已经取得的成绩感到彻底满意。
放到今天，这种性格倒是有些耐人寻味。Claude 已经成为全球最重要的 AI 产品之一，Anthropic 也拥有惊人的资本资源和产业影响力。
可达里奥依然在不断寻找下一个可能出问题的地方。
仿佛不管拿到怎样的成绩单，他总会首先想，万一哪里算错了呢？
02 多少只鸡抵得上一个人
2001 年，达里奥进入加州理工学院。
据老同学回忆，有一次，达里奥提出，人可以吃螃蟹，因为螃蟹没有脊椎。
朋友 Colin Heckman 不太买账，反问他：为什么有人不吃猪肉，却觉得吃螃蟹没问题？没有脊椎，就意味着生命不值得保护吗？
另一位朋友 Nathan Avery 还记得，达里奥曾经认真讨论过一个更加抽象的问题，究竟多少只鸡的生命，才能抵得上一个人的生命？
达里奥认真思考了这个问题，这种近乎数学计算的道德观，后来与他接触的「有效利他主义」不谋而合。
有效利他主义试图用理性和数据回答一个问题，有限的资源究竟该如何分配，才能创造最大的社会福祉。
后来，这套思维又被他带进 AI 领域。
2025 年，Anthropic 开始研究「模型福利」，探讨 AI 是否可能拥有主观体验，以及是否值得道德关怀。
不过，达里奥曾公开澄清，自己并不是有效利他主义者，只是认同其中一些思想。
二十多年前的争论到今天有了奇妙的回声，这次被放上道德天平的，是 AI 和 人类。
03 父亲去世与睾丸癌
Anthropic 翻译成中文的意思是「人类」，在他的叙事里，技术守护人类文明的守门人。
这种思想很可能来源于 2006 年，达里奥经历了一场改变人生轨迹的家庭变故。
23 岁的达里奥·阿莫迪正在普林斯顿大学攻读博士，他原本打算成为一名理论物理学家，研究宇宙如何运行。
但就在这一年，他的父亲 Riccardo 去世了。
父亲已经与丙型肝炎抗争多年。当时，医生主要依靠干扰素和利巴韦林治疗这种疾病，不仅副作用明显，治愈率也只有约 40%至 50%。
2025 年接受采访时，达里奥再次谈及这段往事，情绪依然激动。他的前女友 Jade Wang 也回忆，几年的科学进步，可能意味着两种截然不同的命运，父亲或者有机会活下来。
这件事彻底改变了达里奥的科研方向，他逐渐转向生物物理学和神经科学，后来又前往斯坦福从事生物医学研究。
2014 年，达里奥自己也被诊断出睾丸癌，在《纽约时报》公开的内容中，这段经历被一句话带过，「He beat it with chemo」（他靠化疗战胜了病魔）。
自此，他开始认真思考，与其穷尽一生攻克某种疾病，为什么不创造一种能够加速所有科学研究的工具？
人工智能最终成为他的答案。
2024 年，达里奥在《Machines of Loving Grace》中提出「压缩的 21 世纪」，足够强大的 AI，可能把原本需要 50 至 100 年取得的生物医学进步，压缩到 5 至 10 年。
04 AI 奇点预言
2007 年的一个晚上，达里奥向高中好友 Colin Heckman 兴奋地介绍了一本书：雷·库兹韦尔的《奇点临近》。
这本书提出了一套相当大胆的未来想象，随着计算能力不断增长，机器最终可能超越人类智能。
这种假想中的转折点，被称为「技术奇点」。
据 Heckman 回忆，达里奥几乎迷上了这套理论，
他预测，技术奇点可能在 2040 年之前到来。甚至还畅想过，人类未来也许能够与机器融合，形成某种新的混合智能。
他开始阅读《Overcoming Bias》等博客，接触理性主义、有效利他主义和 AI 生存风险理论，其中一个重要人物，是 Eliezer Yudkowsky。
Yudkowsky 如今仍是对超级智能持极端谨慎态度的代表人物之一。而达里奥已经亲自下场，经营一家处在技术最前沿的 AI 公司。
面对《纽约时报》的询问，Yudkowsky 表示，达里奥如今并不向自己征求或采纳建议，他也不记得达里奥曾经这样做过。
同年 9 月，达里奥在《We Must Pace the Frontier》中公开呼吁放慢前沿 AI 研发速度，却同时解释了为什么自己仍要继续开发 AI，如果停止研发，人类可能失去技术带来的巨大收益，也可能让更不重视安全的竞争者率先掌握它。
05 偶像是马斯克
达里奥和马斯克之间，有一段颇为魔幻的硅谷孽缘。
年轻时，达里奥其实是马斯克的崇拜者。根据《纽约时报》采访的两位知情人士回忆，2007 年前后，达里奥就与马斯克有过邮件往来，还曾认真考虑过加入 SpaceX。
当年的马斯克还在努力证明，私人公司也能把火箭送入太空。这件事很符合达里奥的胃口，他相信科学和技术能够从根本上改善人类文明的长期命运。
2016 年，达里奥加入 OpenAI，马斯克当时正是这家公司的联合主席和重要出资人，他们后来都和 OpenAI 闹翻了。
2021 年，Anthropic 成立，2023 年，马斯克成立 xAI，推出 Grok，二人变成了同一个赛道上的竞争对手
据 Axios 报道，Anthropic 如今还是马斯克旗下 SpaceXAI 数据中心算力的重要客户。这意味着，双方一面争夺 AI 市场，一面又存在算力供应关系。
到了 2026 年 9 月 12 日，更魔幻的场面出现了。达里奥发表《We Must Pace the Frontier》，呼吁整个行业放慢前沿 AI 研发速度。
马斯克随即转发：「Dario is right」。
06 从慈善到 AI「福利模型」
达里奥差一点就去华尔街上班了。
2008 年，他通过经济学家 Tyler Cowen 的博客，接触到一家名叫 GiveWell 的慈善评估机构。
达里奥很快成了 GiveWell 论坛的积极参与者。2010 年，他甚至考虑过进入金融行业。
同年，他在 GiveWell 发表了一篇文章，认真解释自己如何花掉 1 万美元。候选项目有两个，一个是治疗结核病的 Stop TB，另一个是改善非洲疫苗配送的 VillageReach。
为了比较两者，达里奥算了一笔账。
根据 GiveWell 当时的估算，VillageReach 平均花费约 545 美元，可以避免一名婴儿死亡；Stop TB 每避免一人死亡的成本，则约为 150 至 750 美元。
但最终，他选择了 VillageReach。
原因是他发现，Stop TB 虽然在理论上更具成本效益，但项目涉及政府、医疗机构、药物发放和持续治疗等多个环节，很难看清每一笔钱最终产生了什么效果。
后来，他尝试用 AI 继续自己的慈善之路。
他认为，如果 AI 能够加速医学研究，就可能挽救无数生命；但如果失控，后果也可能波及全人类。
07 在百度熬夜的 AI 末日预言家
2014 年，Dario Amodei 加入了百度位于美国桑尼维尔的人工智能实验室。
当时的百度还在认真做 AI，吴恩达刚刚从 Google 跳槽过来担任首席科学家，带着一群研究员挑战语音识别，希望用深度学习取代传统上需要大量人工设计的算法。
后来名声在外的 Deep Speech 系列，就是这个时期的重要成果。2016 年的 Deep Speech 2 甚至展示了同一套深度学习思路处理英语和普通话的能力，部分测试中的识别水平已经能够与人工转录竞争。
那时候连 Transformer 都还没诞生，更别说 ChatGPT 了，硅谷对 AI 的主流想象，还是让机器听懂人话、识别图片，而不是创造什么拥有自主意识的超级智能。
但 Dario 已经开始担心世界末日了。
据前同事 Gregory Diamos 回忆，这人在百度出了名的工作狂，经常通宵待在实验室，而且特别喜欢和同事争论，只要逮到机会，就会把一个技术问题辩论到底。
更有意思的是，2015 年前后，他就开始向同事警告，AI 能力可能迅速追上甚至超过人脑，开发者必须认真对待失去控制的可能性。
同年，他转到 Google Brain，开始把这种担忧变成真正的技术研究。
2016 年，Dario 与 Christopher Olah、John Schulman 等人共同发表了《Concrete Problems in AI Safety》，讨论五类具体问题，包括奖励作弊、负面副作用、安全探索和分布偏移等。
这篇论文也解释了 达里奥此后十年的基本思路，AI 风险未必等机器有了邪恶意图才会出现，当它足够强大时，一个看似无害的目标都可能产生危险后果。
08 达里奥的另一面
如果只看 Anthropic 如今的形象，很容易以为这家公司是由一群整天板着脸讨论人类灭绝的科学家创办的。
但翻开它早期核心团队的私人历史，画风其实相当离谱。
在旧金山，Dario、妹妹 Daniela、理论物理学家 Jared Kaplan、研究员 Christopher Olah，以及后来成为妹夫的 Holden Karnofsky，曾经生活在同一个朋友圈里，其中几个人还合租过公寓。
Olah 当时甚至接受过 Dario 的数学辅导。
2017 年 Daniela 和 Karnofsky 结婚时，这个朋友圈更是彻底放飞了自我。
如今掌握全球最前沿 AI 研发方向的 Anthropic CEO，在十年前的人生重要社交场合，形象是一只熊猫。研究 Claude 神经网络内部结构、试图探索机器意识的 Olah，则是一只长颈鹿。
2021 年，Dario 与 Daniela、Kaplan、Olah 等人共同创办 Anthropic。
2025 年，Karnofsky 也正式加入公司，参与制定负责管理先进 AI 风险的 Responsible Scaling Policy，直接向首席科学官 Kaplan 汇报。
于是早年一起讨论 AI 末日、合租公寓、参加火人节的朋友，后来真的掌握了全球最重要的 AI 实验室之一。
09 在 OpenAI 两次被否
2018 年，达里奥已经成为公司最重要的研究负责人之一，妹妹 Daniela 也开始参与重要的组织管理工作。
不过，OpenAI 内部并不是所有人都欣赏这对兄妹的管理方式。
据《纽约时报》报道，当年 12 月，研究人员 Joshua Achiam 专门找到 Sam Altman，表达了一个非常微妙的担忧，不应该让 Dario 担任公司的首席伦理官。
按照 Achiam 的想法，伦理监督应该由不同立场的人共同参与，甚至最好引入公司外部的专家，避免研究负责人既制定规则，又负责判断自己是否遵守规则。
据知情人士回忆，双方后来发生过一次面对面的激烈争论，Dario 甚至提高音量，坚持认为没有人比自己更适合承担这个职位。
类似问题后来又在 OpenAI 上演了一遍。
2023 年，OpenAI 董事会突然罢免 Sam Altman，理由是董事会无法再信任他的沟通方式。
结果董事会虽然握有正式权力，却没能获得足够的组织支持，Sam 在几天内重新上台。
10 向奥特曼摊牌
后来，事情开始发生变化。
Alec Radford 等研究员发现，通过扩大模型规模、增加训练数据和算力，神经网络可能获得越来越强的语言处理能力。
达里奥很快意识到，这条路线可能不只是让机器更会写文章，而是通往通用人工智能的重要一步。
OpenAI 联合创始人 Greg Brockman 也希望参与 GPT 项目，但达里奥兄妹不愿意。
《纽约时报》后来还披露，据两名了解情况的人士回忆，Dario 曾多次向 Sam 提出最后通牒，如果不能把 Brockman 排除在相关工作之外，自己就会离职。
随着 GPT-2 和 GPT-3 展现出越来越强大的能力，Dario 对于研究路线、安全审查和公司治理的担忧也不断加深。
2020 年 12 月，Dario 与 Daniela 等人离开 OpenAI，随后共同创建 Anthropic。
OpenAI 当年那场宫斗，最后硬生生打成了产业战争。从