Apollo Research将在OpenAI破坏行为试点中派驻六名评估人员
AI 导读
Apollo Research 于2026年11月16日宣布,六名评估人员将进入 OpenAI 内部工作四个月,调查模型在训练、评估和内部部署期间是否会试图破坏对齐或控制机制。此前评估仅在后训练完成后、公开发布前不久进行,Apollo 认为这一时机不足以测试密谋等行为,此次嵌入式安排赋予评估人员类似员工的访问权限。OpenAI 承诺为训练激励评估提供训练代码、数据集、强化学习训练记录和中间检查点查询能力;其可因技术、安全或知识产权原因扣留材料,但不得仅因信息不利而扣留。Apollo 计划发布两份公开报告,OpenAI 可要求删去机密信息但不能改动评估结论,Apollo 还可公开说明所获访问权限与所受限制,并称这是雄心勃勃的第一步,而非完整的嵌入式评估。
推荐理由
原文详细披露了评估的访问范围、报告删改权与元透明度条款,读者可据此权衡这项嵌入式评估结论的分量。
阅读原文