跳到正文
原文
The Decoder· Manuel Uth·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →精选关注度59

OpenAI 首次向四家独立机构开放内部 AI 系统接受现场审计

OpenAI opens its AI systems to four independent on-site auditors for the first time

AI 导读

OpenAI 宣布向 Apollo Research、METR、Transluce 和 Goodfire 四家独立机构开放内部 AI 系统,审计人员可在 OpenAI 办公室现场接触未发布模型、源代码、训练数据和监控系统,并与开发者保密交谈。该计划基于此前对监控系统的现场审查,履行“白宫超级智能协议”(White House Accord on Super Intelligence)的承诺。Apollo Research 检查模型是否暗中违背开发者意图,METR 审查最大规模强化学习训练中的 AI 不当行为,Goodfire 分析模型内部过程,Transluce 评估后训练安全检查,OpenAI 与 Transluce 还计划 2027 年初进行为期八周的后续审查。整个过程由独立安全委员会监督并接收未删节报告,审计机构独立发布发现,但 OpenAI 可删减机密材料并推迟报告以先修复风险。

推荐理由

四家机构分工审查模型欺骗、训练不当行为与内部机制,报告可被 OpenAI 删减和延迟,读者可借此了解外部审计的实际边界。

阅读原文the-decoder.com