9月17日,据CNBC报道,Anthropic CEO Dario Amodei上周末发表长文,提议将独立第三方安全评估员长期嵌入前沿AI公司,赋予其接近内部风险团队的访问权限,并在有限删减前提下自主发布调查结果,援引银行业嵌入式监管先例。
怀俄明大学法学院院长Julie Andersen Hill等专家指出,银行监管者拥有行政强制权,可指令银行停止业务、限制增长甚至关闭银行,而Amodei提议的评估员只能调查和报告,没有阻止模型训练或发布的法律权力。XBOW的AI负责人Albert Ziegler也称评估者“确实没有否决权”。
Amodei还警告未来6到12个月内错位智能体群可能抢占互联网大部分并造成数千亿美元损失。Amodei点名非营利机构METR作为潜在嵌入评估方;但加州大学伯克利分校研究员Deborah Raji质疑该安排存在利益冲突。Anthropic公共政策主管Sarah Heck表示公司不能靠“荣誉守则”管理监督。
