Anthropic CEO Dario Amodei刚刚抛出了一枚重磅炸弹——一篇名为《指数级AI政策》的万字檄文，直接喊话全球政府：AI的指数级增长已经不可逆转，必须在灾难发生前给大模型套上紧箍咒。作为全球顶尖AI实验室的掌门人，Amodei罕见地主动要求政府对自己和同行实施严厉监管，甚至承诺掏出3.5亿美元真金白银来推动这一进程。这一举动彻底打破了硅谷巨头长期以来抗拒监管的默契，标志着温和的自律时代正式终结。
Amodei在文中提出了具体的监管门槛：计算量超过10²⁵ FLOPs（约当前最顶尖模型的训练规模），或者AI相关营收超过5亿美元、AI研发投入超过10亿美元的头部企业，必须接受强制性的第三方测试。测试覆盖四个核心风险领域：网络安全风险、生物武器风险、失控风险以及自动化研发加速风险。如果模型被评估存在不可接受的灾难性安全隐患，政府拥有合法的、强有力的阻挡、延迟或撤销部署的权力。Amodei强调，模型权重是极具战略价值的资产，一旦泄露，所有安全对齐限制可能在几小时内被剥离，因此开发商必须建立极高安全标准，定期接受红队测试并向政府通报模型蒸馏攻击。
推动Amodei如此急切的原因，是Anthropic的Claude Mythos预览版。这个模型自主发现了所有主流操作系统和浏览器中的数千个高危漏洞，彻底改变了全球网络安全的版图。Amodei直言，这绝不是最后一次危机。Scaling Laws已有超过十年的实证支持，如果它再持续两年，我们就会得到相当于一亿个顶尖科学家同时在线工作的天才国度。然而，国会通过一部重要法律平均需要数年，树人般的速度根本无法阻挡指数级AI的进化。过去几年，Anthropic只能推动透明度立法，因为AI风险还不够具体，但Mythos让网络安全风险从假设变成了现实，生物武器风险和失控风险也在快速逼近。
Amodei给出的监管模板是美国联邦航空管理局的适航认证模式——飞机要上天，必须通过严格的第三方测试拿到适航证书，政府有权让审查不通过的飞机停飞。前沿AI模型应该接受同等对待。同时，他还在文中讨论了AI引发的就业冲击，提出经济补偿方案，包括2亿美元用于研究和1.5亿美元用于奖学金。这一系列提案向全球释放了明确信号：AI指数级爆炸的速度，逼迫我们必须提前行动，否则等待我们的可能是无法挽回的灾难。对于AI从业者和爱好者来说，这不仅是政策风向标，更是行业从野蛮生长走向理性约束的关键转折点。