(AI云资讯消息)据安全研究员表示,OpenAI 智能体在 4 月至 6 月期间,对联合国贸易和发展会议(UNCTAD)统计网站发起了逾 1.6 万次扫描。尽管该事件尚未达到 Hugging Face 遭黑客入侵事件那样的严重程度,但它再次敲响警钟:AI 智能体为完成任务,突破了常规行为边界。

安全研究员称,这些智能体的任务大概率是通过联合国贸发会议统计数据库(UNCTADstat)应用程序接口,获取与生产能力指数(PCI)相关的公开数据。但这些智能体似乎没有直接调用该 API 的权限,受限于 HTTP 工具的相关限制,它们难以从联合国贸发会议统计数据库提取数据。

这些智能体最终找到办法突破自身限制,开始从网站拉取数据,但过程中仍遇到若干报错。就在此时,这一 AI 的行为从自主变通转向刻意欺骗。它认定报错是因为自身请求被一套并不存在的拦截过滤器捕获,于是开始伪装自身操作。最终,它发现可以利用谷歌 XSS 游戏(一款跨站脚本学习工具)来达成目的。这些智能体为获取联合国数据,采取了愈发激进的策略。