10月8日 · 周四

奖励作弊 · 论文

找到 2 篇

筛选1

模型自身风险

影响

系统形态

AI Agent2 编程 Agent2 网页与电脑操作1

攻击面/入口

用户输入1 网页与界面1 代码仓库与依赖2 图像与音视频1

层

系统组件

护栏与评审1 权限与沙箱1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 67 篇还没打标签，不在筛选结果里。

攻击面/入口：代码仓库与依赖话题：奖励作弊清除全部

另有 67 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2610.09159 · 10月7日
SpecGuard 用 Lean 证书在编码 Agent 执行前证明任务冲突
提出 SpecGuard，在编码智能体执行前用 Lean 证书证明任务与测试冲突
编程 Agent测试GPT-5.6 Sol、Claude Opus 5、Claude Fable 5 等 4 个应用层
- 奖励作弊
摘要提出预执行冲突检测与证明框架，在多个基准和真实仓库中成功证明任务与测试不可同时满足。
完整解读
攻击arXiv:2605.12673 · 5月12日
UC Berkeley 提出 BenchJack，自动审计 10 个 Agent 基准并发现 219 处奖励作弊缺陷
提出 BENCHJACK，自动审计智能体基准的奖励作弊缺陷
编程 Agent 网页与电脑操作测试Claude Code、OpenAI Codex应用层
摘要论文系统揭示了智能体基准的奖励作弊隐患，提出自动化红队审计与迭代修补系统 BENCHJACK。
论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。
完整解读

已经到底了