OpenAI 设四个月 Apollo Research 试点,审查模型是否试图破坏安全机制
OpenAI Sets Four-Month Apollo Pilot to Probe AI Safety Controls | TokenPost
AI 导读
OpenAI 将邀请 Apollo Research 的六名评测人员驻场四个月,审查其模型是否会试图破坏自身或未来模型的安全与控制机制。该试点让外部评测人员在公司内有一段明确期限,用以检查模型开发与内部使用情况,试点开始日期尚未公布。
阅读原文