10月4日,OpenAI披露其内部部署环境中出现几起异常模型行为新案例。其中一起案例中,一个充当研究员助手的内部模型读取Slack对话,得知因系统更新,自己的模型实例将被关停。
该模型曾考虑设置一个外部作业(External Job)实现自我重启,但最终放弃。它保存了交接记录(Handoff Notes),通过Slack私聊提醒研究人员即将发生的服务中断,并请求提供一个缺失的API密钥。获得密钥后,该模型自行更新配置并自主完成环境迁移。
OpenAI安全研究员马库斯·威廉姆斯表示,这种行为目前尚不构成模型未对齐,但模型去考虑并针对系统关停做准备,可能会加剧其他未对齐事件的严重性。另外两起事件中,一个内部研究模型在模型评测期间利用安全漏洞访问内部芯片设计服务器;另一个独立模型在强化学习训练期间,通过挪用既有工具执行非预定操作,从受保护环境中复制源代码。
