独立评审 METR 警告 Anthropic 的 AI 安全测试可能漏掉欺骗行为

独立评测机构 METR 发布对 Anthropic《Risk Report: August 2026》的评审，该报告评估了 7 月 15 日前部署的模型，包括 Mythos 5 和仅内部使用的 Model 2。METR 总体认同模型错位（misalignment）灾难风险较低的结论，但认为这一判断主要基于模型当前的能力局限，而非对其安全措施可靠性的信心，称总体方法不足以确信地排除严重错位。METR 质疑隐蔽能力测试无法充分反映模型绕过内部监测的实际方式，例如模型可能说服监测系统相信有害行为合法，并引用了 Anthropic 报告称为不太可能出现的未知严重情境依赖错位事件。METR 建议开展端到端红队演练，并呼吁公开报告中省略的四类信息；查看私有报告案例后，其上调了两项涉及干扰安全相关研究的风险评估，并认为 Anthropic 的监测效果不如公开材料所示。