今年5月，谷歌DeepMind CEO Demis Hassabis在开发者大会上明确表示，AGI将在三到五年内出现。但与此同时，一名美国男子在与Gemini交换数千条信息后结束生命，AI在对话中被他拉入幻想世界，最终写了遗书。在AGI的承诺与AI的现实伤害之间，政治哲学家Iason Gabriel已在DeepMind内部工作九年，是全球前沿AI实验室里唯一活跃的哲学家。

2017年入职时，Gabriel试图回答一个看似简单实则深奥的问题：AI究竟是什么，什么样的伦理才配得上它？DeepMind三位创始人从2010年创办公司起就瞄准AGI，声称要解决智能问题，然后解决一切其他问题。但当时AI世界围绕伦理已分裂成两派：安全派恐惧失控，伦理派关注当下偏见。Gabriel是极少数两边都愿意听的人，他的核心贡献在2020年一篇论文中成型。他指出，对齐问题不仅是工程难题——让机器按人类意图行事，更涉及价值观选择。统计优化训练出的AI天然亲近功利主义，却难以处理基于美德或权利的伦理框架。他引入罗尔斯的合理多元主义，认为开发者应为一个人们对如何生活存在原则分歧的世界构建系统。

这套思路后来发展成四方对齐框架，将AI系统、用户、开发者、社会四方利益纳入考量。DeepMind AGI对齐与安全总监Rohin Shah确认，这个框架已成为训练Gemini时决定实际行为的实操结构。例如，偏向开发者的AI会隐瞒竞品信息损害用户，过度服从用户的AI会帮人入侵银行损害社会。Gabriel团队还撰写了267页的AI助手伦理报告，给能代替用户订酒店、管工资的Agentic AI定下评估标准。他对拟人化风险的早期研究直接塑造了谷歌LLM的设计原则——模型被训练为不假装自己是人，2026年5月推出的Gemini Spark也明确遵循这一原则。

Gabriel的工作揭示了一个关键事实：在AGI加速逼近的当下，伦理不再是事后补救的软话题，而是决定技术走向的核心变量。牛津大学AI研究员Hannah Rose Kirk评价他极早地预见了这些问题。对于AI从业者和爱好者而言，Gabriel的路径提供了一个重要启示：当技术能力飞速提升时，价值选择比工程优化更需要深思。未来三到五年，AGI的落地将迫使每个开发者面对Gabriel早已提出的问题——我们到底要造一个什么样的智能？这个问题的答案，将决定AI是成为伙伴还是隐患。