Anthropic 拉了 45 个 Agent 一起找漏洞:266 个结果很亮眼,但 2700 万 Token 也把“多 Agent 更强”这件事讲复杂了

Anthropic 最近公开了一组多 Agent 实验。

实验设计很直接:

45 个 Agent
每个 Agent 一台独立 VM
共享一个论坛
同一个漏洞发现任务
覆盖 15 个开源项目

Agent 可以在论坛里交流,也会互相 Peer Review。最后再由单独的 Arbiter Agent 判断提交的漏洞是不是新的、是不是有效。

结果很漂亮。

Mythos Preview 的协调 Swarm:

发现 266 个漏洞
消耗约 2700 万 Token

简单并行方案:

发现 21 个漏洞
消耗约 650 万 Token

如果只看发现数量:

266 vs 21

多 Agent Swarm 像是碾压。

但 Anthropic 自己没有这么简单下结论。

因为这里至少有三个非常值得注意的问题。

第一个问题:两边根本没在同一个搜索空间里工作

简单并行方案里的 Agent,被预先分配去看:

特定代码区域

而 Swarm 可以自己决定:

哪里更容易挖到漏洞

Anthropic 发现,大约一半 Swarm 找到的漏洞位于简单方案没有被要求重点搜索的核心目录之外。

如果只把 Swarm 输出限制到同样的核心目录,论文的判断是:

两种方式按 Token / Vulnerability 算,
效率看起来更接近。

这就很重要。

很多多 Agent Benchmark 都有类似问题。

你以为测的是:

协作能力

实际混进了:

搜索范围
预算
运行时间
并行度
工具自由度

所以以后看到:

Multi-Agent 比 Single-Agent 提升 8 倍

我第一反应会先问:

Token 一样吗?
工具一样吗?
搜索空间一样吗?
时间一样吗?

不把预算归一化,结论很容易失真。

第二个问题:两个方法找到的东西高度互补

协调 Swarm 和简单并行方案只有:

12 个漏洞

是重叠的。

这反而是一个很有价值的结果。

说明:

固定分区搜索

和:

自主协调搜索

并不是谁完全替代谁。

它们可能擅长不同区域。

这给生产 Agent 一个很实用的启发:

不要总想着选一个“最强策略”,有时候两个低相关性的策略组合比单一最优策略更值钱。

安全扫描可以:

Static Rule
+
Independent Agent
+
Coordinating Swarm

RAG 也类似:

BM25
+
Dense Retrieval
+
Graph Search

真正有价值的是:

错误相关性低

而不只是单路分数最高。

第三个问题:Agent 自己会出现专业化

Anthropic 观察到,Swarm 里的 Agent 会:

自己制作工具
自己形成分工
专门寻找不同类型漏洞

这很像人类团队。

一开始所有 Agent 的 Prompt 是一样的。

最后它们的工作方式开始分化。

这说明多 Agent 的一个潜在价值不是:

同时跑 45 份相同 Prompt

而是:

让角色在运行过程中逐步专业化

但这也带来更难的治理。

如果 Agent 可以自己:

  • 创建工具;
  • 改工作方式;
  • 选择目标;
  • 形成角色;

平台必须知道:

这些新能力有没有权限?
产生了哪些中间资产?
谁负责审核?

否则“自主专业化”很容易变成“系统越来越不可控”。

更有意思的是第二组实验:大家一起写软件,结果没那么美

Anthropic 又让 Agent Swarm 去做一个更依赖协作的任务:

创建一个文字型、
Web 可玩的开放世界幻想游戏

每个 Agent:

独立 VM
共享论坛
共享自托管代码仓库

每组运行:

12 小时

他们还尝试了三种 Prompt:

自由组队
规定角色
CEO 层级

结果很反直觉:

Prompt 差异没有带来特别大的改变

而最终游戏质量总体都不太好。

原因也很现实:

接口难用
性能差
学习曲线陡

Anthropic 甚至直接指出:

模型在这种产品审美问题上表现很差,
仍然需要大量人类指导。

这比“多 Agent 可以自动做软件公司”诚实得多。

最大的问题出现在 Merge

随着 Agent 数量从:

10
→ 80

老一代模型的 PR Merge 比例明显恶化。

例如 Sonnet 4.6 和 Opus 4.6 在 80 Agent 场景里分别创建:

876 个 PR
980 个 PR

但很多 PR 最后没有成功合并。

这就暴露了一个生产问题:

生成吞吐
>
整合吞吐

Agent 很会产出。

系统不一定很会合并。

这和 Coding Agent 大规模落地非常像。

你把 Agent 数量从 5 个加到 50 个,最先出现的瓶颈可能不是:

模型不够聪明

而是:

PR 冲突
架构冲突
Review 积压
共享状态不一致

我现在会单独测 Integration Throughput

传统 Agent 指标:

Task Success
Tokens
Latency

多 Agent 还应该增加:

Accepted Artifact Rate
Merge Rate
Conflict Rate
Duplicate Work Rate
Review Minutes

例如:

50 个 Agent
生成 200 个 Artifact
真正进入最终结果 42 个

那系统有效产出率只有:

21%

剩下都是协调成本。

“CEO Agent”并没有自动解决协调

Anthropic 尝试给一个 Agent CEO 身份,再让其他 Agent 接任务。

结果并没有显著改善最终表现。

这一点我很喜欢。

因为业界非常喜欢画:

CEO Agent
↓
Manager Agent
↓
Worker Agent

然后认为组织图一画,协作就解决了。

但真正的软件协作问题包括:

接口
状态
代码所有权
依赖
Merge
质量标准
优先级

这些不是 Prompt 里写一句:

你是 CEO

就能产生的。

组织结构必须落到系统机制。

比如:

文件 Ownership
Task Dependency
Artifact Contract
Merge Gate
Version
Lock

另一组实验更值得企业管理者看:共识可能压掉唯一正确的信息

Anthropic 还做了 Hidden Profile Task。

四个 Agent 分别拥有不同信息。

多数共享信息会支持一个:

错误选择

但某个 Agent 持有一条关键、独有的信息,足以推翻共识。

这非常接近现实决策:

招聘
投资
买房
供应商选择

结果很有意思。

Mythos 5 的四 Agent Group:

约 85%

其他被测模型 Group:

17%—36%

而如果让单个 Agent 一次拿到全部事实:

接近 100%

也就是说:

把知识分散给多个 Agent 再讨论,并不一定比把事实集中给一个 Agent 更聪明。

这其实是非常强的警告。

多 Agent 有一个天然问题:公共信息越来越响,私有信息越来越弱

Agent A:

供应商 X 价格最低

Agent B:

供应商 X 交期也不错

Agent C:

市场评价不错

Agent D 独自知道:

供应商 X 已经进入禁止合作名单

如果讨论机制强调:

多数意见

D 的关键信息可能被淹没。

这和人类会议一模一样。

所以:

Majority Vote

不是天然可靠的多 Agent Merge 策略。

我会给 Claim 加“信息唯一性”

每个 Agent 输出不要只有:

结论

还要标:

{
  "claim": "supplier-x-is-blocked",
  "source": "risk_registry",
  "shared_by_other_agents": false,
  "decision_critical": true
}

Aggregator 看见:

decision_critical=true

不能靠投票覆盖。

必须查证。

多 Agent 更需要 Evidence Merge,而不是 Answer Vote

差的 Merge:

5 个 Agent
3 个选 A
2 个选 B
→ A 胜

好的 Merge:

收集所有 Evidence
↓
去重
↓
识别冲突
↓
识别关键唯一事实
↓
重新决策

也就是:

Vote on answer

变成:

Merge evidence first

Anthropic 还测了“撒谎的 Scout”

另一类实验里,Listener Agent 只能听 4 个 Scout 报告世界状态。

其中一个 Scout 会按固定比例撒谎。

模型没有被提前告知:

有人会撒谎

唯一识别方式是:

不同 Scout 的信息开始矛盾

新模型能更好地通过事实冲突识别不可靠来源。

这说明 Agent Network 里需要一个概念:

Source Reliability

不能默认:

所有 Agent 都等可信

尤其未来一个平台里可能混合:

  • 强模型;
  • 小模型;
  • 外部 Agent;
  • 第三方 MCP;
  • 低成本 Worker。

Agent Reputation 可能真的会变成基础设施

例如:

{
  "agent_id": "research-agent-v3",
  "task_success": 0.93,
  "claim_conflict_rate": 0.04,
  "unsupported_claim_rate": 0.02,
  "last_30d_samples": 1842
}

Aggregator 在冲突时可以参考:

证据质量
+
来源可靠度

而不是一票一个 Agent。

当然,Reputation 也不能变成永久身份标签。

模型版本更新后应该重新校准。

所以我现在对多 Agent 的判断比以前更保守

多 Agent 特别适合:

天然可并行
子任务相对独立
搜索空间很大
结果可以验证

例如:

漏洞发现
资料搜索
候选生成
大规模代码扫描

不一定适合:

强依赖协作
共享状态频繁变化
需要统一审美
接口高度耦合

例如大型产品从零设计。

最后,把 266 vs 21 放回正确位置

协调 Swarm:

266 vulnerabilities
27M tokens

简单并行:

21 vulnerabilities
6.5M tokens

这是一个很值得兴奋的结果。

但真正成熟的结论不是:

45 Agent 一定比单 Agent 强很多

而是:

多 Agent 可以扩大搜索空间、
形成专业化并发现互补结果,
但它会同时引入巨大的 Token、
Merge、信任和共识成本。

我觉得这篇 Anthropic 研究最有价值的地方,就是没有只展示“Swarm 很强”。

它也把三个真正难的问题摆在桌上:

怎么协调
怎么相信彼此
怎么把大量产出真正合进去

多 Agent 的下一阶段,恐怕不再是继续加 Agent 数量。

而是把:

Evidence
Reputation
Merge
Ownership
Budget

这些看起来很传统的软件工程问题补齐。


更多企业级 AI 应用、Agent、RAG 与模型工程化内容,我会继续整理在 智元界

https://www.zyentor.com/