返回快讯列表
行业动态

Anthropic CEO 呼吁前沿 AI 降速,承诺引入常驻外部评估团队

Dario Amodei 提出三步方案,主张给安全研究留出时间;外部评估是 Anthropic 的承诺,行业与全球协调仍属于倡议。

Anthropic CEO Dario Amodei 9 月 12 日发表《We Must Pace the Frontier》,呼吁放慢前沿模型能力提升的速度,让对齐、安全和可解释性研究有时间跟上。他将 AI 辅助研发加速与近期 Agent 安全事件列为改变判断的重要原因。

文章提出三个层次:让第三方评估人员常驻前沿实验室,开展行业层面的共同安全标准与节奏协调,再争取国际合作。Anthropic 承诺推进第一步,让外部团队持续查看训练流程和安全实践,并允许其在规定边界内公开关键发现;后两个层次仍需要其他企业和政府参与。

Amodei 特别说明,控制发展节奏并不等于停止模型训练。他对未来风险的时间判断属于个人预测,不是已经发生的事实。这篇文章的关注点在于头部实验室主动提出放慢竞赛和扩大外部监督,但截至文章发布,并不存在由此自动生效的行业停训协议。

更多快讯