OpenAI 与四家独立评估机构签约,开展驻场式安全评估
OpenAI, 상주형 안전성 평가를 맡을 독립 평가기관 4곳과 계약 체결
AI 导读
OpenAI 于 2026 年 11 月 16 日宣布与 Apollo Research、METR、Transluce、Goodfire 签订第一阶段驻场式评估合同,四家机构将访问模型检查点、源代码、训练数据和监控系统,评估训练及内部使用过程中的对齐与安全护栏。Apollo Research 评估模型是否会隐蔽地违背开发者意图及护栏能否探测此类行为,Goodfire 派驻可解释性研究者监测训练运行,METR 聚焦 OpenAI 称迄今规模最大的强化学习训练运行且初期范围限于该次运行,Transluce 从事后训练对齐评估的质量与广度入手。
推荐理由
原文详述四家评估机构各自的评估任务、访问范围与报酬安排,可借此了解前沿实验室独立安全评估的落地方式。
阅读原文