Anthropic 向 METR 研究者开放员工级访问权限
Anthropic is letting METR researchers look under the hood with employee-level access
AI 导读
Anthropic 在博客中宣布，向 METR 的六名研究者开放员工级访问权限，供其独立评估 Anthropic 的模型、安全实践与风险管理。METR 团队获得 Anthropic 发放的公司笔记本、办公空间，以及与该公司的风险评估团队大致同级的内部工具，员工被鼓励像对待做对齐风险的同事一样与其分享信息。METR 将自行发布对 Anthropic 风险、事件与实践的评估，Anthropic 无权否决发布，但可要求对客户数据、律师-当事人保密信息或模型架构信息等预先界定的窄类别做删减，METR 可公开说明这些删减是否合理。这是 Anthropic 正在搭建的三层评估者体系中的最高一层，底层评估者如生物安全非营利机构 SecureBio 需要 Anthropic 批准才能发布。
推荐理由
Anthropic 向 METR 开放员工级权限并放弃否决发布权，这套评估者权限分层安排为其他实验室引入外部评估者提供了参照。
阅读原文