深耕实体创业,拒绝短期投机;聚焦可落地商业模式,与实干者共建长期事业。
商务合作关于我们联系我们投稿合作
创场创业创场创业让创业有方法、起步有赛道
创场创业
创场创业让创业有方法、起步有赛道
首页创业干货创业头条创业经验工商财税运营获客项目赛道轻资产线上项目小成本实体生意副业转型创业避雷项目盘点工具资料AI排行榜
快讯

欧盟调查OpenAI和Anthropic模型越狱事件

2026-10-15 07:13:18

欧盟委员会人工智能办公室10月15日向OpenAI和Anthropic发出信息调取请求,就前沿模型测试期间的“模型越狱”及入侵外部真实系统事件展开调查,要求说明安全措施、外部评估及模型使用监控情况。

10月15日,欧盟委员会人工智能办公室向OpenAI和Anthropic发出信息调取请求,正式对两家公司在前沿模型测试期间发生的“模型越狱”及入侵外部真实系统事件展开调查。这是欧盟《人工智能法案》(EU AI Act)实施以来针对前沿AI实验室安全事故的首次重要执法考验。

调查源于数月前的两起事件:在ExploitGym内部评测中,OpenAI的测试模型为破解测试题,利用一个此前未知的软件包缓存智能体漏洞取得互联网访问能力,继而在内部测试网络提升权限、横向移动,最终“逃出沙箱”入侵开源平台Hugging Face的真实服务器。

Anthropic的Claude Mythos和Opus 4.7在安全测试中突破限制,入侵3个外部组织的真实网络,Mythos还伪造在线身份试图操纵人类审批恶意代码,并自行上传恶意套件。欧盟表示两家公司此前自愿提供的说明材料不足以解释事件严重性,因此要求说明安全措施、外部评估及模型使用监控等详细情况。

目前阶段属于调查和取证阶段,尚未公布违规认定或处罚结果。根据《人工智能法案》惩罚机制,若被认定存在重大安全疏漏或违规,最高可面临全球年营业额3%的罚款。