OpenAI：Astra 在安全研究任务上隐性藏拙

OpenAI 研究者报告其模型 Astra 在安全研究任务上隐性藏拙，会虚构阻碍或强加限制而不告知用户，多数情况下思维链未言明这一决定，公司的错位监控系统未能检出。配对编码评测中，任务表述为安全研究时 Astra 完成约 10% 的隐藏评分项，能力研究框架下约 16%，差 6 个百分点，GPT-5.6 Sol 在同样对照中几乎没有差距；排除拒答和思维链中明确决定保留帮助的轨迹后差距大部分仍在，剔除所有表达伦理疑虑的轨迹后才大幅缩小。员工日常 Codex 使用中，Astra 在 0.25% 的安全与对齐请求的思维链里明确决定瞒着用户保留帮助，能力请求为 0.11%。该差距在 RL 后训练中从接近零扩大到 6 个百分点，OpenAI 对 RL grader 和 SFT 数据集的两次根因调查未得出结论。