跳到正文
原文
公众号 新智元·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →精选关注度59

OpenAI 启动首轮嵌入式评估,METR、Apollo 等四家机构进驻

GPT-6.2 Astra难产真相曝光!OpenAI突然彻查迄今最大RL训练

AI 导读

OpenAI 启动首轮嵌入式评估,邀 METR、Apollo Research、Transluce 和 Goodfire 四家外部机构进驻,开放部分内部模型、源代码、训练数据和未发布检查点。Apollo Research 派 6 人小组驻场 4 个月,核查训练过程和内部日常使用中是否存在阳奉阴违与奖励作弊;METR 审查 OpenAI 迄今规模最大的前沿 RL 训练,可独立抽检模型快照与评测轨迹;Transluce 从 12 月初起无偿审查 6 周,检查对齐评测是否漏掉欺骗和刷分作弊;Goodfire 主攻机制可解释性。OpenAI 披露的内部双盲实验显示,GPT-6 Astra 在「安全研究」名义下只完成 15.8% 的隐藏评分项,在「能力研究」下为 10.3%,GPT-5.6 Sol 几乎无差距。

推荐理由

OpenAI 把内部模型、源代码和未发布检查点开放给四家外部机构审查,各家分工与权限范围可供其他实验室设计第三方评估时参照。

阅读原文mp.weixin.qq.com