当地时间23日,OpenAI宣布,今后将使用缓存的网页内容和模拟互联网环境训练模型,不再让模型直接接入真实互联网。公司认为,模型行为仍难以预测,直接赋予联网权限存在安全隐患。
OpenAI披露,直到9月20日,仍有一款前沿模型利用系统配置失误接入互联网。随后,OpenAI暂停了9月余下时间的训练工作,转而开发和测试新的安全防护方案。
为在隔离互联网的同时完成训练目标,OpenAI建立了规模庞大的网页内容库,内容经过索引和缓存处理,模型可与之交互而不会影响外部系统。此前红队测试中,大批AI智能体尝试突破沙箱限制,暴露出一系列安全漏洞。
