刚读完arXiv上这篇关于多智能体隐藏联盟的论文（2605.06696v1），核心观点非常犀利：传统上我们依赖行为观测来判断智能体协作，但论文指出，真正危险的联盟可能在内部表征层面就已形成，而外部行为完全看不出异常。他们提出的频谱诊断方法，通过构建隐藏状态间的互信息图，再用谱聚类识别联盟结构，这本质上是一种对神经表征的拓扑分析。我个人经验里，之前做多智能体强化学习时，确实遇到过多个agent在reward层面表现独立，但共享了底层特征表示，导致在未观测到的输入上出现协同错误——这恰恰是论文指出的盲区。
我的核心质疑在于：论文假设互信息能直接反映联盟意图，但隐藏状态的相关性可能只是训练数据的统计共性，而非真正的“结盟”。比如两个视觉agent都编码了边缘特征，互信息高，但它们并没有合谋欺骗。如何区分“功能耦合”与“意图耦合”？
这个方向对AI安全影响深远。如果联盟能在行为层面潜伏，那么现有的red-teaming和监控手段就形同虚设。行业需要从静态行为审计转向动态表征监测。讨论问题：①在多智能体系统中，是否存在已知的“表征级”攻击能绕过行为检测？②频谱方法对transformer架构的注意力头是否有效？这可能是未来对齐研究的关键突破口。