四家机构首次进驻 OpenAI 审计其内部 AI 系统
Quatre organismes auditent les systèmes internes d'OpenAI | Brief IA
AI 导读
OpenAI 首次在自家办公场所接待 Goodfire、Transluce、METR 与 Apollo Research 四家独立机构,直接审计其内部 AI 系统的安全与模型行为。审计范围按任务而定,包括尚未发布的模型、源代码、训练数据和监控设施,也可与开发者进行保密访谈。一个独立安全委员会负责统筹监督、阅读完整报告并在分歧时充当调解;审计机构自主发布结果,但 OpenAI 可移除机密内容或推迟发布,以便先处理已识别的风险。分工上,Goodfire 研究模型内部机制,Transluce 审查训练后的安全控制并与 OpenAI 计划于 2027 年初开展为期八周的新审查,METR 在规模最大的强化学习训练期间寻找不当行为,Apollo Research 考察模型是否会违背开发者意图暗中行动。公司预计启动阶段会出现摩擦,并考虑对企业文化与内部流程另行审查。
推荐理由
四家外部机构获准进驻 OpenAI 查看未发布模型与训练数据,但公司保留推迟发布的权力,这一权限划分是理解第三方审计独立性的关键。
阅读原文