Anthropic 向 METR 开放内部访问权限，允许其审计模型与安全实践
Anthropic gives METR inside access to audit its AI models and safety practices
AI 导读
Anthropic 宣布向非营利机构 METR 的团队开放内部访问权限，允许其审查自家 AI 模型与安全实践。六名 METR 员工获得公司硬件、办公空间和内部工具，Anthropic 称其权限大致与自家风险团队相当；客户数据、受律师与当事人保密特权保护的信息以及模型架构细节仍不开放。METR 将独立发布审查结果，Anthropic 可在预设类别内要求删节，但 METR 可以公开表示这些删节是否合理。Anthropic 称并非所有与安全相关的信息都能公开，原因可能是会帮助攻击者或涉及商业敏感。该安排比 Anthropic 给其他外部审查方的权限更宽，SecureBio、Accenture 和 Faculty 此前获得的访问更少，Anthropic 也已与 Hugging Face 开始初步商谈。
推荐理由
材料列出 METR 可访问与不可访问的内部信息，并对比其权限比 SecureBio 等外部审查方更宽，可作实验室外部审计安排的参照。
阅读原文