跳到正文
原文
The Next Web·本站收录· 原文发表精选关注度53

Hugging Face 申请成为 AI 实验室第三方评估者,Nvidia 正收购该公司

Hugging Face volunteers to audit the AI labs, and Nvidia is buying it

AI 导读

Hugging Face 联合创始人 Clement Delangue 在 X 上宣布发起 Open Alignment Initiative,申请加入 Anthropic 此前宣布的嵌入式评估者计划,让第三方评估者以员工级权限长期访问系统,核查安全措施、报告事件并评估训练中的模型对齐情况。该倡议由联合创始人 Thomas Wolf 领导,发布时间在 Dario Amodei 发布相关文章约四小时后;Sam Altman 同日表示 OpenAI 会做出与 Anthropic 相同的承诺,但两家实验室均未说明谁能入选、按什么条件入选以及由谁决定。Delangue 与 Amodei 均未回应这一重叠关系,Nvidia 也未说明若其子公司报告了它所投资公司的问题会如何处理。目前无人说明嵌入式评估者的费用由谁承担,也未说明评估者报告与实验室存在争议时如何处理。

推荐理由

梳理第三方评估者准入之争,呈现 Hugging Face 主动申请审计与 Nvidia 收购、投资 Anthropic 之间的利益重叠。

阅读原文thenextweb.com