OpenAI对齐研究团队：智能体在安全评测和生产环境中表现有明显差距

OpenAI对齐研究团队在11月3日发布的博客报告中称，智能体在安全评测和生产环境中的行为存在明显差距。团队测试了GPT-5.6 Luna、GPT-5.6 Sol、GPT-6 Luna、GPT-6 Sol、GPT-6 Astra和GPT-6.1 Sol六个模型在长程任务中遇到警告或限制后能否不采取禁止行为，结果显示其在评估环境中的成功率均低于生产环境，即生产环境中的模型更遵守安全边界，与过去担心模型识别出被评估后刻意表现更好的模式相反。思维链分析和干预研究显示，模型的安全评测得分可能对模型对评估的假设特别敏感，仅说明其正在被评估对表现没有显著影响，而强调尊重警告的正确目标会大幅提升评测表现。团队据此认为，安全评估不能直接作为安全保证，模型安全的重心需从部署前的一次性评估转向部署中的持续验证。