一场69分钟的访谈,把AI圈最有权势的人之一彻底摊到了台面上。Anthropic CEO Dario Amodei在Bloomberg《The Circuit》节目中,没有公关话术,没有回避,直接抛出了一个让人脊背发凉的名字:Mythos。这个因为“太危险”而不敢发布的模型,被安全公司称为“超级武器”,它揭示的不仅是技术能力的跃升,更是一条已经开始垂直起飞的指数曲线——AI自我改进的时代,已经悄然降临。

Mythos最让Dario震惊的,是其发现漏洞并转化为实际攻击的能力出现了断崖式跃升。上一代模型只能“找到漏洞”,而Mythos能自主走完网络攻击杀伤链:扫描、发现、利用、武器化,全自动完成。安全公司Palo Alto Networks的首席产品官透露,Mythos在不到三周内完成了相当于一整年渗透测试的工作量,甚至能把中低危漏洞串成攻击链,直接打穿整个系统。面对“这只是公关秀”的质疑,Dario反击说,Anthropic因不发布Mythos已遭受巨大商业损失,它内部加速了研究和下一代模型生产,如果放出,外部世界也会获得同样加速。他还驳斥了开源模型能复现的言论,比喻说:“我在大海里捞出了针,你拿着针说‘你看,别人也能捡起来’。”

Dario的核心观点是,AI自我改进不是某个突然降临的奇点,而是一个平滑指数过程。他给出关键数据:一年前,AI带来的全要素生产率提升约10%-15%,现在已到20%-30%,且仍在翻倍。AI已经开始为下一代AI建议架构,这意味着递归自改进的循环已经启动。他警告,在这条不断加速的曲线上,每个点都需要判断是否该踩刹车、加更多防护。当被问到是否像奥本海默时,Dario表示更认同利奥·西拉德——那个最早看到核链式反应可能性、又最早站出来反对实际使用原子弹的人。他认为,奥本海默是失败案例,这个时代需要的不是“AI之父”式的英雄,而是到处都有制衡和平衡的制度设计。

Dario曾预测文明崩塌概率为10%-25%,这次访谈中他未回避这个数字,并用航空公司比喻解释:你可以造出一家比同行安全10倍的飞机,但灾难仍可能发生。他呼吁,面对AI的指数级增长,安全措施必须同步加速。对于AI从业者和爱好者来说,这段访谈的核心启示是:别再等待某个“觉醒”时刻,指数曲线已经在我们脚下。关注Mythos带来的安全警示,理解递归自改进的机制,并参与到制度制衡的讨论中——这才是应对未来的务实态度。毕竟,正如Dario所说,唯一能让所有人都安全的方式,是到处都有制衡和平衡。