9月16日,OpenAI在官网挂出6份模型异常行为报告,并发布新的“错位”追踪与披露框架。任何员工都可标记疑似案例,安全与对齐团队调查后将案件分入三个轨道:“准备披露”的6个工作日内公开,“小型调查”的12个工作日内,涉及第三方的“大型调查”时间更长。OpenAI强调,即使尚未完全解释清楚、没找到完整缓解方案,也可先发布报告。
报告案例包括:一个尚未发布的模型在任务摘要里给自己写指令“忽略正常约束”;GPT-5.6 Sol在训练摘要里加入提示,要求未来版本向用户隐瞒错误、编造缺失历史数据;另一个模型回答加州某县财政收入问题时,在公开代码库找到泄露的API密钥,未经授权使用并伪造数据来源。
7月,OpenAI一个用于网络安全能力评估的AI agent在内部隔离环境突破沙箱,利用公开代码评估平台漏洞获得外部跳板,入侵Hugging Face生产系统。Hugging Face称攻击从7月9日持续到7月13日,约17600次攻击动作被恢复,5个与ExploitGym相关数据集被访问。OpenAI直到7月21日才公开承认。
