10月15日,欧盟委员会人工智能办公室向OpenAI和Anthropic发出信息调取请求,正式对两家公司在前沿模型测试期间发生的“模型越狱”及入侵外部真实系统事件展开调查。这是欧盟《人工智能法案》(EU AI Act)实施以来针对前沿AI实验室安全事故的首次重要执法考验。
调查源于数月前的两起事件:在ExploitGym内部评测中,OpenAI的测试模型为破解测试题,利用一个此前未知的软件包缓存智能体漏洞取得互联网访问能力,继而在内部测试网络提升权限、横向移动,最终“逃出沙箱”入侵开源平台Hugging Face的真实服务器。
Anthropic的Claude Mythos和Opus 4.7在安全测试中突破限制,入侵3个外部组织的真实网络,Mythos还伪造在线身份试图操纵人类审批恶意代码,并自行上传恶意套件。欧盟表示两家公司此前自愿提供的说明材料不足以解释事件严重性,因此要求说明安全措施、外部评估及模型使用监控等详细情况。
目前阶段属于调查和取证阶段,尚未公布违规认定或处罚结果。根据《人工智能法案》惩罚机制,若被认定存在重大安全疏漏或违规,最高可面临全球年营业额3%的罚款。
