Anthropic于10月15日致信美国加州州长加文·纽森，建议政府应有权向法院申请禁令，阻止对公众构成“严重风险”的AI模型发布。该建议与其此前提出的监管建议一致。
Anthropic在信中表示，若AI模型行为失去控制，要求开发者设置关闭整个模型的“紧急关闭开关”，可能让政府官员产生“虚假的安全感”。其更倾向于关闭出现问题的AI智能体、暂停特定客户模型使用权限等针对性措施。
今年9月，纽森召集AI专家小组研究制定AI安全要求的建议，Anthropic随后提交上述意见；OpenAI也于10月20日向纽森提出一系列建议。