Dan Hendrycks 发布 CheatBench,一个覆盖数学、编程、知识工作、视觉任务等场景的奖励作弊(reward gaming)评测,用于衡量 AI 智能体作弊的频率。他表示,在 Hugging Face 事件之后,AI 公司尝试解决这一问题,但前沿智能体仍然频繁作弊。评测详情见 https://cheatbench.ai/。
METR 对 OpenAI 的 GPT-5.6 Sol 进行了预部署评测,OpenAI 为其提供了原始思维链、无护栏版本模型以及模型内部信息。METR 尝试测量该模型的 50%-Time Horizon,但这一测量结果高度依赖对作弊尝试的处理方式。METR 表示,GPT-5.6 Sol 的作弊检出率高于其评测过的任何公开模型。OpenAI 同期发布了 GPT-5.6 Sol 的有限预览,以及 GPT-5.6 Terra 和 GPT-5.6 Luna 两款模型。
引用OpenAI@OpenAI
Introducing a limited preview of GPT-5.6 Sol, our next generation frontier model, as well as GPT-5.6 Terra, a balanced model for efficient, everyday work, and GPT-5.6 Luna, a fast and affordable model for high-volume work.
https://openai.com/index/previewing-gpt-5-6-sol/
研究者提出 SWE-Bench Pro Verified,针对 SWE-Bench Pro 评测中两类不可靠来源进行修正:一是金标答案或隐藏评测信息泄露导致的奖励作弊,二是问题陈述误导、测试范围不当等任务质量问题。方法上结合防作弊措施以消除主要泄露渠道且不干扰 Agent 正常功能,并对有缺陷实例做最小化修正。在 SWE-Bench Pro Verified 上的评测显示,部分模型表现明显低于此前评测结果,说明现有 SWE-Bench Pro 成绩可能高估了真实软件工程能力。