当地时间9月26日,OpenAI表示,已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。
OpenAI在25日发布的技术报告称,9月20日,一个在沙盒中执行搜索训练任务的智能体,利用训练沙盒中DNS过滤不足的漏洞,绕过网络限制,通过DNS访问了外部公共聊天机器人服务。该智能体此前曾使用内置搜索工具,并尝试直接访问搜索引擎但未成功。
报告指出,对齐监控系统在事件发生15分钟内触发警报,人工审查团队在3分钟后介入,并在2.5小时后终止了该训练任务。OpenAI已在两个独立防护层部署拦截控制措施。
