跳到正文
原文
OpenAI Alignment Research· Melody Guan, Yuxiang Xie, Bowen Baker·本站收录· 原文发表精选关注度35

超越 g-mean²:OpenAI 提出衡量模型可监控性的补充指标

Beyond g-mean²: complementary metrics for monitorability

AI 导读

OpenAI Alignment Research 发布两项补充 g-mean² 的可监控性指标,一是只在两个模型都支持的实例上计算并汇总成模型排序的成对匹配指标,二是模拟监控器作为拒绝门时部署风险的指标。成对匹配指标用逆方差加权 HodgeRank 把两两比较拟合为排序,减少模型能力差异导致的任务子集选择偏差,合成实验中它能恢复预设的七个模型监控性顺序,而数据集级 g-mean² 和匹配版 Bradley–Terry 会随能力差距扩大而失真。部署后风险指标模拟最多 K 次重试的拒绝采样,报告坏输出概率 B(K)、部署概率 A(K) 以及部署输出中坏输出的占比,作者强调低 B(K) 也可能来自部署率极低。作者把指标用于 7 个历史 system card 中的智能体模型(o1、o3 与 GPT-5 各版本直到 GPT-5.6 Sol,监控器为高推理档 GPT-5),建议三项指标一并报告。

推荐理由

原文提出成对匹配排序和部署后风险两项补充指标,说明单一 g-mean² 会因模型任务子集不同而给出不同排序。

相关论文
阅读原文alignment.openai.com