Anthropic 向外部 AI 监督机构 METR 开放员工级访问权限
Anthropic gives outside AI watchdog “employee-like” access
AI 导读
Anthropic 让 6 名 METR 员工入驻,提供公司硬件、办公空间,以及与其内部风险评估团队大致同级的内部工具和系统访问权限。Anthropic 不向 METR 付费,METR 也不接受 AI 公司及其员工的捐款,资金来自个人、慈善机构和英国 AI Security Institute 等政府机构。评测者可自行发布分析,Anthropic 无权否决,但可要求删减客户数据、律师-客户特权覆盖的信息和模型架构等内容。Anthropic 称此举是自愿嵌入评测者,并认为每家前沿 AI 公司都应这样做;METR 表示愿与所有前沿 AI 开发者合作。Anthropic 还在向投资者展示其安全实践,其 IPO 预计今年进行、估值超过 $2tn;公司同时与 Accenture 合作、双方各承诺至少 10 亿美元建立新护栏,SecureBio 则负责审查化学和生物武器风险。
推荐理由
Anthropic 给 METR 六名员工接近内部风险评估团队的权限,为第三方评测机构如何嵌入实验室提供了参照。
阅读原文