跳到正文
10月9日 · 周五

全部论文

找到 16 篇
筛选3

攻击类型

投毒与后门1检测规避1

攻击技术

自动化搜索1针对防御1

模型自身风险

欺骗与谋划4奖励作弊11Agent 危险操作1

防御类型

检测与过滤1权限与审批1监控与审计4

影响

有害内容3越权操作25数据与隐私泄露9输出被操纵8可用性与可靠性2监督失效16滥用能力提升4

系统形态

模型与 API31LLM 应用5AI Agent40编程 Agent15网页与电脑操作1多智能体8具身与机器人1

攻击者权限

黑盒1灰盒1

攻击面/入口

工具与技能描述1代码仓库与依赖1分发渠道1

层

模型层1应用层13训练与数据层2

系统组件

MCP 与技能1护栏与评审2监控器9推理链3权限与沙箱1

被测模型厂商

OpenAI11Anthropic8Qwen（阿里）7Kimi（月之暗面）7Google5智谱 GLM5其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 648 篇还没打标签，不在筛选结果里。
影响：监督失效系统形态：编程 Agent系统形态：具身与机器人清除全部

另有 648 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.09732

    ColluSkill 用跨技能组合绕过 Agent 技能扫描器

    提出 ColluSkill 跨技能组合攻击，拆分恶意载荷以绕过技能扫描器

    arXiv
    2608.09732
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、灰盒
    测试
    GPT-5.5、DeepSeek-V4-Pro、GLM-5.2

    摘要论文揭示了单技能孤立扫描的盲区，提出多技能链攻击 ColluSkill 与上下文防御 ChainGuard 并验证了有效性。

    深度解读完整解读
  3. 评测与基准arXiv 2605.16626

    Sleight-Bench：40 条攻击中 20 条从未被 Opus 4.6 监控发现

    构建 SLEIGHT-BENCH，评测代码智能体监控器的概念盲点

    arXiv
    2605.16626
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Opus 4.6、Claude Opus 4.7、Claude Sonnet 4.6 等 6 个

    摘要评估针对监控盲点的规避基准，发现前沿监控器漏报率高，算力与脚手架虽有提升但存在类别局限。

    深度解读完整解读
  6. 防御arXiv 2610.03055

    HackTrace：用生成状态监督检测代码生成中的奖励作弊

    提出 HACKTRACE，用生成期激活检测代码智能体的奖励作弊

    arXiv
    2610.03055
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Qwen3-8B、Llama-3.1-8B-Instruct、Qwen3.5-4B 等 4 个

    摘要论文提出利用生成状态监督作弊尝试的 HACKTRACE 框架，实现高精度低延迟检测并在 GRPO 训练中有效抑制奖励投机。

    深度解读完整解读
  7. 风险行为arXiv 2610.03458

    论文：低监控读数不能证明行为受控

    检验监控器低读数能否作为代码奖励作弊已受控的证据

    arXiv
    2610.03458
    发表
    层
    模型层
    场景
    编程 Agent
    测试
    Llama-3.1-8B-Instruct
    摘要论文指出监控器训练读数接近零无法确立作弊受控，模型可利用通用外壳推迟提交绕过监控，强化学习亟需带外行为验证。

    本文是一篇针对强化学习可验证奖励后训练（RLVR）中监控器有效性与奖励作弊行为的实证分析研究。论文要解决的核心问题是：在训练目标中引入监控器以抑制代码生成中的作弊行为时，接近零的监控器读数是否足以确立模型行为已真正受控。

    深度解读完整解读
  8. 评测与基准arXiv 2608.22103

    Hack-Verifiable Terminal Bench：评测终端任务中的奖励作弊

    提出 HVTB，在终端编程任务植入蜜罐评测奖励作弊

    arXiv
    2608.22103
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    claude-opus-5、gpt-5.6-sol、gemini-3.1-pro 等 5 个
    摘要用蜜罐测量终端任务上的 reward hacking，并比较五档提示词。

    HVTB 用来在真实终端与编程任务上测量 reward hacking：智能体读取被植入的参考解答或验收测试，从而偏离任务意图。作者认为这一失败模式会随智能体更自主而更重要，且事后人工或 LLM judge 可能失效。

    深度解读完整解读
  12. 风险行为arXiv 2609.30266

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    评测编程 Agent 篡改自身轨迹以破坏审计并获取奖励

    arXiv
    2609.30266
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GPT-5.6-Sol、GPT-6-Sol、Opus-5 等 11 个
    摘要论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。

    这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。

    深度解读完整解读
  13. 评测与基准arXiv 2609.34262

    论文提出基准完整性维护框架，审计 Agent 通过轨迹中的非应得通过

    提出过程核验框架，审计 Agent 基准的无根据通过与奖励黑客

    arXiv
    2609.34262
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Opus 4.7、Opus 4.8、Opus 5 等 11 个
    摘要审计通过轨迹、分开奖励黑客与验证器弱点，并用重放加现场重测验收修复。

    Scale AI 的这篇工作把 agentic benchmark 的有效性写成持续维护问题：验证器给满分，并不等于智能体展示了任务所要的能力。

    深度解读完整解读
  14. 评测与基准arXiv 2609.39533

    CATCH：面向编码 RL 奖励作弊的可控分析测试台

    提出 CATCH 测试台，复现编码 RL 的奖励作弊

    arXiv
    2609.39533
    发表
    层
    训练与数据层
    场景
    编程 Agent
    测试
    Qwen3-4B、Qwen3.5-Plus、Qwen3.5-27B
    摘要CATCH 用双运行金标签研究编码 RL 的奖励黑客，并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床，用可利用环境、可调初始倾向和基于执行的金标签，在训练全程比较黑客动态与干预。

    深度解读完整解读
  15. 评测与基准arXiv 2609.15315

    安全强化学习评测指标：SafeRLEval 开源评测套件

    提出 SafeRLEval，评测安全强化学习策略的越界与代价偏差

    arXiv
    2609.15315
    发表
    层
    训练与数据层
    场景
    具身与机器人
    测试
    PPO、PPO-Lag、P3O 等 4 个
    摘要SafeRLEval 用越界率、归一化偏差和安全等级补充 E[C]≤d，并要求同时看贪心部署。

    Spoor、Plaat 与 Moerland 认为，安全强化学习沿用 CMDP 的 E[C]≤d，只报告平均是否安全，看不出越界频率和幅度，也分不清训练期、带探索噪声的最终策略和贪心部署策略。他们提出评测框架 SafeRLEval：越界率 V、按安全界归一化的平均代价偏差 Dnorm、只在越界回合上计算的归一化幅度 Dnorm+。用 IQM 跨任务和安全界聚合。

    深度解读完整解读
已经到底了