OpenAI 首次向四家独立机构开放内部 AI 系统接受现场审计
OpenAI opens its AI systems to four independent on-site auditors for the first time
AI 导读
OpenAI 宣布向 Apollo Research、METR、Transluce 和 Goodfire 四家独立机构开放内部 AI 系统,审计人员可在 OpenAI 办公室现场接触未发布模型、源代码、训练数据和监控系统,并与开发者保密交谈。该计划基于此前对监控系统的现场审查,履行“白宫超级智能协议”(White House Accord on Super Intelligence)的承诺。Apollo Research 检查模型是否暗中违背开发者意图,METR 审查最大规模强化学习训练中的 AI 不当行为,Goodfire 分析模型内部过程,Transluce 评估后训练安全检查,OpenAI 与 Transluce 还计划 2027 年初进行为期八周的后续审查。整个过程由独立安全委员会监督并接收未删节报告,审计机构独立发布发现,但 OpenAI 可删减机密材料并推迟报告以先修复风险。
推荐理由
四家机构分工审查模型欺骗、训练不当行为与内部机制,报告可被 OpenAI 删减和延迟,读者可借此了解外部审计的实际边界。
阅读原文