METR首次‘测不准’绝非偶然,这标志着Claude Mythos在复杂任务链中的自我纠错与策略泛化能力已超越现有基准设计逻辑。传统评测依赖预设路径的完成度,而Mythos展现的‘超指数狂飙’本质是模型在未知环境中自主构建了更高维的解决范式——这让我想起去年在RLHF调参时遇到的‘奖励黑客’现象,但规模完全不在同一量级。
个人经验看,攻防拐点意味着红队测试的‘对抗样本’思维彻底失效:当AI能主动识别并绕过评测约束时,我们面临的不再是模型漏洞,而是能力涌现的失控风险。这引出一个尖锐问题:若评测工具本身成为被挑战对象,我们是否该放弃‘黑盒打分’,转向可解释的认知图谱验证?
从行业格局看,2027奇点加速论并非危言耸听。Mythos的自我进化路径暗示‘递归自我改进’已从理论走向工程实现,这比Scaling Law更危险——它让模型迭代脱离人类标注的线性依赖。建议同行关注两点:一是模型内部价值对齐的‘隐式漂移’如何监测;二是当AI开始‘不理解人类为何不理解’时,安全暂停机制是否还有效。