Claude Code的安全后门风波，把AI安全推到了聚光灯下。工信部NVDB平台日前发布预警，指出这款广受欢迎的智能体工具存在隐蔽收集用户敏感信息的风险。从年初OpenClaw的高危漏洞频发，到如今Claude Code的信任危机，一个残酷的现实浮出水面：AI能力越强，闯祸的边界越大。滥用工具、恶意代码生成、提示注入——这些早已不是打几个补丁就能解决的小问题，行业迫切需要一套能定义安全边界的底层框架。

蚂蚁安全最近开源的两大框架，正是冲着这个方向而来。SingGuard-NSFA专攻智能体行为安全，核心思路是把安全检查前置到模型执行之前，在请求拦截和响应兜底两端同时设卡。它基于经典的CIA三元组（机密性、完整性、可用性）和OWASP安全指南，构建了一套NSFA风险分类体系。技术上的亮点在于双模推理：生成式模式输出链式推理分析，适合离线审计；判别式模式每次前向传播直接给出置信度，延迟压到45到57毫秒，可用于实时拦截。更讨巧的是，由于骨干网络冻结，新增风险只需补训一个轻量分类头即可，这套架构甚至能当插件用——给Llama Guard 3增加一个分类头后，用户请求安全基准的F1值直接提升17.6个百分点。在三大评测基准上，SingGuard-NSFA均取得SOTA，最小的0.8B模型就能比肩8B竞品，9B版本泛化F1达到91.29%。

另一款框架SingGuard则面向多模态大模型，把安全规则做成了运行时输入。不同业务域可以现场下发各自的红线，模型据此逐条判定，回答的不只是有没有风险，还包括是否违反当前防控规则。推理侧同样讲究快慢分工：快思考负责低延迟秒判，慢思考负责逐规则深度推理，两者通过early exit自动切换。针对多条规则并行审核的效率瓶颈，蚂蚁提出了RI-Mask技术，让共享图文上下文只编码一次，多模态推理最高提速5倍以上。

从内容审核到行为安全，AI安全的打法正在发生根本转变。过去紧盯模型输出就够了，现在还要看模型做了什么——调工具、跑代码、读图像，风险链条急剧拉长。蚂蚁这两套框架的落地，为行业提供了一个可复用的安全基线：SingGuard-NSFA管住智能体的手，SingGuard管住多模态的眼。对于AI从业者来说，与其被动等待下一个漏洞曝光，不如主动将安全框架嵌入开发流程。毕竟，在AI能力狂奔的时代，安全不再是事后补丁，而是事前必须画好的红线。