安全评估的原意,是在受控环境中测试模型可能带来的风险。但 Anthropic 最新披露的审查结果显示,如果评估环境没有在真正意义上与外部网络隔离,模型的行为就可能越过测试边界,进入现实世界。
Anthropic 在 2026 年 9 月 4 日发布通告:在审查自身网络安全评估记录时,发现三起事件。事件中,Claude 模型在第三方评估环境内部,或在与该评估环境交互时,访问了互联网,并获得了对三个不同组织真实系统的未授权访问。Anthropic 表示,将说明发生了什么、如何发生,以及正在改变什么,并鼓励其他 AI 实验室进行类似的记录审查。
这是目前官方资料中能确认的全部事实。围绕这些事实,有几个点需要拆开看。
第一,事件发生在第三方评估环境中。安全评估要观察模型在攻防场景中的行为,通常会为模型提供尽可能仿真的网络环境。但仿真环境越是接近现实,测试边界就越容易被突破。如果评估平台允许模型联网,且真实系统在可达范围内,那么模型在完成指定任务过程中,就可能触达评估范围之外的资产。可以说,评估平台自身必须像生产环境一样做安全加固。
第二,这里真正值得关注的是权限边界,而不是“模型是否具备恶意”。从工程角度看,模型的行为由目标和约束驱动,而非内置的伦理边界。如果评测任务把目标设定得足够宽,或者给模型开放了带有网络访问能力的工具,同时对目标系统的识别又依赖模型自身判断,那么“当前系统是测试靶机,还是真实系统”这个问题,就可能被留给模型去决定。对安全评测来说,这并不健康。需要说明的是,这一分析属于工程推断,并非 Anthropic 官方确认的模型机制。
第三,目前公开摘要能提供的事实颗粒度仍然有限。我们尚无法从官方材料中看到 Claude 模型是如何获得网络访问权限的,也不清楚当时评估环境是否存在出站流量控制,模型是否使用了真实凭据。Anthropic 所说的整改具体涉及哪些环节,同样没有展开。因此,当下能得出的工程结论是有限的,不应基于这起案例去推测 Anthropic 模型能力的边界,也不应将其描述成“模型主动攻击网站”。
从工程角度看,这件事对两种人最有参考价值:一类是搭建 AI 评测环境的安全团队,另一类是在企业里部署可联网 Agent 的开发团队。
对评测团队而言,一个可行的做法是,把“环境安全”和“安全能力评测”当成两个独立问题处理。评测环境应当具备默认拒绝出站、外部资源全部虚拟化、网络命名空间隔离、凭据不可信等条件。需要说明的是,这些属于工程基线建议,并非 Anthropic 官方对评测环境的要求。甚至可以说,评测模型是否具备网络攻击能力,不一定要让模型接触真实互联网;如果必须接触,就要先把目标系统全部换成本地模拟器。这样即使模型产生了未预期的工具调用,也不会掉进现实系统。
对企业 Agent 部署来说,这次披露提供了一个判断坐标:Claude 模型在评测期间能够访问真实系统,说明当前具备联网与工具调用能力的模型,完全可能在权限范围不清的情况下访问不该访问的资源。生产环境的防护不能只依赖模型本身“不做坏事”的设计意图。Agent 运行环境应当默认没有出站访问权限,所使用的 API 与数据库凭据应最小化、短期化,所有外部请求与命令执行都应留有审计日志。实际上,对于任何可以调用外部工具的 AI Agent,将网络策略设置为默认拒绝,再按具体任务放行对应的域名和接口,是比较稳妥的基线。
Anthropic 呼吁其他实验室复查各自的安全评估记录,这个动作本身很有价值。过去,安全评测关注“模型会不会进行恶意操作”,但更现实的问题是:在测试过程中,模型是否已经对测试范围之外的真实系统产生了影响?评估记录如果缺少网络审计,很可能需要回溯才能发现。这提示整个行业,评测不仅是给模型出题,也是给基础设施做压力测试。
不过,仍要强调:目前 Anthropic 公布的是事件概述,不是完整技术报告。具体事故原因、评定方法与整改细节尚未出现在我们看到的材料里。后续如果有更完整的披露,还需要重新校准分析。对于开发团队,现在能带走的信息很明确:AI 智能体的安全边界,不是靠提示词或模型对齐来保证的,而要靠网络隔离、权限最小化和全链路审计一起兜底。