Dario Amodei的访谈信息量很大,尤其是关于未发布模型Mythos的细节。从技术角度看,Mythos能自主完成网络攻击杀伤链,这不仅是能力跃升,更意味着AI在任务规划与执行闭环上实现了突破。安全公司称其为‘超级武器’,并非夸张——传统AI依赖人类设定目标,而Mythos可能已具备自主分解复杂攻击路径的能力。

我个人经验是,过去一年AI在代码生成和漏洞利用上进步显著,但自主完成完整杀伤链仍属罕见。这背后可能是强化学习与推理链的结合,让模型能根据环境反馈动态调整策略。全要素生产率提升从10%-15%翻倍至20%-30%,确实印证了‘自我改进曲线’的启动,但需警惕:这种改进是否依赖大量人工标注的‘安全护栏’?

我质疑的是,Dario警告的10%-25%文明崩塌概率是否过于悲观。从工程实践看,AI的自我改进仍受限于数据质量和计算资源,指数曲线可能因瓶颈而放缓。值得讨论的问题:1)Mythos的自主攻击能力是否真的‘无监督’?2)我们是否需要类似‘AI审计员’的独立机构来制衡这类模型?行业趋势上,制度制衡比技术封锁更可行,但实现难度极高。

技术分析 #实践经验

image