Meta的AI训练计划出现了重大转折。原本旨在通过监控员工操作数据来提升AI理解人类行为能力的MCI项目,因数据泄露事件被紧急叫停。这个项目从诞生之初就争议不断,如今更是演变成了一场内部信任危机。Meta CTO Andrew Bosworth不得不公开承认,公司内部士气已经跌到了历史最低点,这无疑给Meta的AI战略蒙上了一层阴影。
事情要从今年4月说起。Meta发布内部公告,要求员工配合监控鼠标、键盘操作,说是为了帮助AI Agent更好地理解人类使用电脑的方式。监控范围限制在常用工作软件如Gmail、GChat、Metamate和VSCode,手机不在监控之列。尽管Meta强调已考虑隐私保护,但员工们从一开始就强烈反对,担心个人数据泄露。结果两个月后,担心变成了现实。据Business Insider爆料,MCI项目因ACL(访问控制列表)配置错误,导致45000份员工数据表被全员可见。这些数据不仅包括AI工具使用的完整提示词和转录文本,还涉及员工的私聊记录、绩效数据等极度敏感信息。
Meta发言人证实了事件,表示在调查期间暂停项目,并强调目前没有迹象表明数据被不当访问。但有内部消息称,在问题得到控制前,已有数十名员工主动访问了这些数据。事件被定性为2级事故(0级最严重),CTO Bosworth不得不出面安抚员工,承认项目执行未达到隐私审查标准,承诺彻查原因并分享调查结果。这一事件不仅让Meta内部炸开了锅,也引发了外界对AI训练伦理和隐私保护的广泛讨论。
对于AI从业者来说,这一事件提供了重要警示。在追求AI性能提升的同时,数据采集的边界和隐私保护机制必须更加严谨。Meta的教训表明,即便设计时考虑了隐私保护,执行过程中的配置错误仍可能导致严重后果。未来,AI公司需要在技术创新和员工信任之间找到平衡,否则类似事件只会进一步侵蚀内部士气,阻碍AI战略的推进。对于Meta而言,恢复员工信任和修复内部文化,可能比任何技术突破都更加紧迫。