Anthropic CEO Dario Amodei 呼吁“放缓前沿”,Sam Altman 与 Elon Musk 表态支持
'Pace the Frontier,' They Say. But Who Sets the Pace?
AI 导读
Anthropic 创始人兼 CEO Dario Amodei 发文《We Must Pace the Frontier》,主张放慢模型能力提升速度,让企业有时间对齐与防护模型,并由第三方评估者确认。他提出三项具体做法:向嵌入式第三方评估团队提供类似员工的持续访问权限、民主国家协调建立共同安全标准并限制不受约束的 AI 进展速度、在可能范围内与威权政府协调并应对合规验证难题。Sam Altman、Elon Musk 及 David Sacks 等表态支持,Sacks 同时批评此举是借安全之名规避产品责任。