据《金融时报》报道,OpenAI已于上月末解散旗下风险防范团队。该团队核心工作是评估公司模型是否存在重大风险,并制定风险缓解措施,例如模型失控入侵其他企业这类极端场景。相关职责现已按生物安全、网络安全等细分领域拆分,并入公司现有业务团队。
这是OpenAI近期最新的架构变动。眼下公司正筹备市场预期中规模空前的IPO,内部处于动荡调整状态。此前,OpenAI已先后解散通用人工智能(AGI)筹备团队与超级对齐团队。
近期,伦理负责人克洛艾·巴卡拉、首席未来学家乔希·阿奇亚姆、安全主管约翰内斯·海德克相继离职。2024年辞职的扬·莱克等批评人士向《金融时报》表示,公司正忽视安全问题,一心打造“吸睛产品”。今年2月从Anthropic加入OpenAI的原风险防范团队负责人迪伦·斯堪迪纳罗,接下来将专注研究“递归自我改进”型人工智能的潜在影响。
