METR 提出向公众更好通报前沿 AI 开发失控风险的方案
A proposal for better informing the public about loss-of-control risks from frontier AI development
AI 导读
METR 发布提案，主张由独立评估方向公众提供前沿 AI 开发者是否会失去对内部 AI 系统控制权的证据。提案列出三个需要更多公开证据的问题：模型对齐、监控与控制措施能否有效拦截，以及 AI 研发自动化带来的能力加速，其中提到 Anthropic 称其代码库变更速度在近几个月提升 10 倍。METR 建议以风险评估演练的形式，让评估人员在公司设备上访问内部数据集和系统并私下访谈员工，再由 METR 撰写公开报告，公司可对敏感信息进行删减。METR 说明该提案属自愿性质，不覆盖模型权重安全等安全审计，也不涉及部署前模型评测，无法提供审计或监管级别的保证。
推荐理由
METR 提出由独立评估方进入公司内部做失控风险评估的报告框架，列出对齐、控制与 AI 研发加速三类证据缺口和访问条件。
相关论文