跳到正文
原文
Mother Jones·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →

OpenAI 的"独立评估"看起来一点也不独立

OpenAI's "independent assessment" doesn't look independent at all

AI 导读

OpenAI 于周一宣布邀请 METR、Apollo Research、Transluce 和 Goodfire 四家研究机构评估其内部模型并测试安全功能的有效性,Mother Jones 撰文认为这一安排难以称得上独立。文章列举各机构公告条款:OpenAI 可审批评估团队成员并指定其可接触的员工;Apollo Research 为期四个月的驻场评估允许 OpenAI 以技术不可行、安全风险或知识产权保护为由扣留信息;Transluce 只能接触预批准的模型、安全文档和研究人员;METR 的评估范围也低于其 10 月对齐评估提案的设想。文章认为这与 Altman 九月承诺的"员工级访问"存在差距,并回顾 7 月 Hugging Face 安全事件后的调查:研究人员总计仅获准现场工作六天,报告承认不得不大量把分析委托给判断力和可靠性明显不如人类研究者的 AI 智能体。

阅读原文motherjones.com