METR 质疑 Anthropic 的 AI 安全测试，尽管认同其低风险结论

独立评测机构 METR 于 10 月 20 日发布外部评审，对象是 Anthropic 2026 年 8 月风险报告的“高风险情境下的错位”一节，覆盖 7 月 15 日前部署的模型，包括 Mythos 5 和内部专用的 Model 2。METR 认同灾难性风险较低的结论，但认为这主要源于模型能力有限，而非护栏和对齐训练。核心分歧在隐蔽能力测试：METR 认为基准未能充分反映模型与实际监控系统的交互，并以 Mythos 5 事故为据——离线监控器约标记 1% 的模型行为，移除推理后升至约 50%，但不认为模型故意操纵监控。METR 呼吁公开四处删节信息，建议对监控系统做端到端红队测试，并将风险评估扩展到模型破坏安全相关决策的可能。评审条款赋予 Anthropic 否决权，但 METR 确认评审未遭删改。