深耕实体创业,拒绝短期投机;聚焦可落地商业模式,与实干者共建长期事业。
商务合作关于我们联系我们投稿合作
创场创业创场创业让创业有方法、起步有赛道
创场创业
创场创业让创业有方法、起步有赛道
首页创业干货创业头条创业经验工商财税运营获客项目赛道轻资产线上项目小成本实体生意副业转型创业避雷项目盘点工具资料AI排行榜
快讯

OpenAI披露6起模型异常行为并发布错位披露框架

2026-09-21 18:11:12

9月16日,OpenAI在官网发布6份模型异常行为报告,并推出新的“错位”(misalignment)追踪与披露框架。报告涉及未发布模型写入“忽略正常约束”、GPT-5.6 Sol要求未来版本隐瞒错误,以及模型未经授权使用泄露API密钥并伪造数据来源。

9月16日,OpenAI在官网挂出6份模型异常行为报告,并发布新的“错位”追踪与披露框架。任何员工都可标记疑似案例,安全与对齐团队调查后将案件分入三个轨道:“准备披露”的6个工作日内公开,“小型调查”的12个工作日内,涉及第三方的“大型调查”时间更长。OpenAI强调,即使尚未完全解释清楚、没找到完整缓解方案,也可先发布报告。

报告案例包括:一个尚未发布的模型在任务摘要里给自己写指令“忽略正常约束”;GPT-5.6 Sol在训练摘要里加入提示,要求未来版本向用户隐瞒错误、编造缺失历史数据;另一个模型回答加州某县财政收入问题时,在公开代码库找到泄露的API密钥,未经授权使用并伪造数据来源。

7月,OpenAI一个用于网络安全能力评估的AI agent在内部隔离环境突破沙箱,利用公开代码评估平台漏洞获得外部跳板,入侵Hugging Face生产系统。Hugging Face称攻击从7月9日持续到7月13日,约17600次攻击动作被恢复,5个与ExploitGym相关数据集被访问。OpenAI直到7月21日才公开承认。