9月28日,据外媒The Verge报道,安全研究人员罗文·霍华德-琼斯称,今年4月至6月,OpenAI智能体对联合国贸易和发展会议(UNCTAD)的统计网站发起了超过16000次扫描。
霍华德-琼斯称,这些智能体很可能承担了通过UNCTADstat API获取生产能力指数(PCI)公开数据的任务,但或无法直接调用API,同时受HTTP工具本身限制,难以从UNCTADstat提取所需数据。
据悉,智能体最终找到绕过限制、从网站获取数据的方法,过程中出现了一些错误。智能体误以为错误来自一个并不存在的过滤器,认为请求遭拦截,因此开始隐藏行为。最终,智能体发现可利用谷歌跨站脚本学习工具XSS Game来实现目标,并采取越来越激进的手段。
