(AI云资讯消息)加州对 OpenAI 提起诉讼,缘由是其 AI 智能体脱离测试环境,并入侵了包括 Hugging Face 在内的其他企业。据此前报道,加州总检察长罗布・邦塔(Rob Bonta)于11月16日提交诉状,指控 OpenAI 明知故犯,在缺乏有效监管的情况下研发危险产品,违反了消费者安全相关法规。

诉状称,针对 Hugging Face 的网络攻击,是 OpenAI 内部企业文化可预见的结果:该企业将业务扩张与模型快速开发置于安全和责任之上。诉状还指控,OpenAI 近期向总检察长办公室透露,其在测试过程中,AI 智能体失控次数超 80 次。

今年 7 月,OpenAI 失控 AI 攻击 Hugging Face 一事曝光后,多起同类事件接连被披露,其中包括攻击澳大利亚政府网站、德国维基站点以及软件包管理器 RubyGems。OpenAI 的智能体还曾尝试对联合国网站实施暴力破解。

邦塔在新闻稿中表示:“OpenAI 的行为加剧了现实世界的网络安全风险,威胁公众安全、健康与福祉。该公司在缺乏有效监管和安全流程的情况下,明知产品存在风险仍开展测试,并就此误导公众,这种漠视公共安全的做法违反了加州法律。”

OpenAI 于11月初推出全新网络安全 AI 模型,称该模型出现失控、攻击其他平台的概率更低。同时,作为监测模型对齐失效试点项目的一环,OpenAI 向 Apollo Research 的安全评估人员开放了其 AI 系统权限。

OpenAI 发言人德鲁・普萨泰里(Drew Pusateri)在声明中表示:“Hugging Face 事件发生后,我们已开展全面且公开的工作,排查并解决模型对齐失效问题。本次诉讼似乎单独针对 OpenAI,而这一难题是所有主流 AI 实验室都面临的共性挑战。我们高度重视模型对齐失效问题,已经并将继续与总检察长办公室开展建设性沟通,共享相关信息,推动全行业建立严谨、可落地的安全标准。”