IT之家9月24日消息,The Information当晚援引知情人士称,谷歌、OpenAI和Anthropic正推进成立AI安全标准机构,暂定命名Standards Authority for Frontier AI(SAFA),希望在没有政府监督下于今年年底或明年年初启动,建立面向前沿模型开发企业的行业自律组织。
SAFA计划承担多项职能:支持第三方机构在模型投入使用前进行测试,制定AI开发商报告安全与安保事件的方式,把各实验室此前自愿作出的安全承诺转化为具体实践标准,并确定独立模型及实验室审计人员的资质。工作组部分成员曾考虑邀请多位知名人士担任CEO,还拟定过科学顾问候选名单。
成员仍在讨论SAFA是否直接负责模型的安全和能力测试。目前此类测试由美国商务部人工智能标准与创新中心承担,部分成员担心其资源不足;有成员主张SAFA在该中心现有测试基础上增加测试和评估项目,是否职能重叠仍不明确。
