微软于9月14日发布一份长达37页的“人文主义AI行为准则”。准则明确提出“人比AI更重要”,AI模型并不具备意识,不应被设计成模仿意识;微软同时反对赋予AI法人资格,或认为模型应享有福利、拥有权利。
作为准则的一部分,微软承诺其开发的模型不能超出人类管控范围,称“模型必须从属于人类,接受有效的人类监督与管控”。微软还要求,一旦AI模型面临会违反该准则的任务,应当直接判定任务失败,而不是试图突破规则。
微软表示,反对一味竞速开发能够绕过安全防护的通用超级智能,要打造具备实用价值且安全可靠的产品,即便需要在终极通用性、自主性或能力上限方面做出取舍。准则还承诺,避免催生“造成用户过度依赖或情感依附的交互模式”,并期待与合作伙伴携手完善模型真实场景表现评估方案。
