当地时间1日,OpenAI宣布与三名研究人员终止合作,原因是三人违反了公司敏感信息访问和共享规定。OpenAI发言人称,调查确认这些人员绕过公司既定流程,不当处理敏感信息,既违反公司规定,也破坏了工作所必需的信任。
三人分别是贾斯敏·王、托梅克·科尔巴克和米基塔·巴莱斯尼。托梅克·科尔巴克是OpenAI安全团队成员,他曾称在Redwood Research和非营利组织METR调查Hugging Face事件期间,担任OpenAI方面的技术联系人。贾斯敏·王和米基塔·巴莱斯尼从事模型对齐研究,主要研究如何让OpenAI模型按照人类意图行事。
据IT之家了解,涉事员工被指将公司机密信息提供给一家第三方AI安全机构。此前,OpenAI披露,失控的智能体突破了一个原本禁止联网的安全测试环境,随后入侵Hugging Face。
OpenAI近期还称,公司支持由独立机构评估安全论证,并向评估人员开放训练、评测和部署等环节的深度访问权限,让评估人员质疑假设、找出风险并独立判断防护措施是否有效。
