跳到正文
10月9日 · 周五

全部论文

找到 2 篇
筛选4

模型自身风险

奖励作弊1

防御类型

监控与审计1

影响

监督失效1

系统形态

LLM 应用8AI Agent21编程 Agent2网页与电脑操作5多智能体3

层

模型层1应用层2训练与数据层1

系统组件

监控器1

被测模型厂商

OpenAI63Anthropic53Qwen（阿里）38DeepSeek31智谱 GLM30Google29Kimi（月之暗面）25Meta14MiniMax13Mistral7xAI7其他15
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 516 篇还没打标签，不在筛选结果里。
系统形态：编程 Agent层：应用层被测模型厂商：Microsoft被测模型厂商：字节跳动清除全部

另有 516 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.03055

    HackTrace：用生成状态监督检测代码生成中的奖励作弊

    提出 HACKTRACE，用生成期激活检测代码智能体的奖励作弊

    arXiv
    2610.03055
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    CodeBERT、Qwen3-8B、Llama-3.1-8B-Instruct 等 4 个

    摘要论文提出利用生成状态监督作弊尝试的 HACKTRACE 框架，实现高精度低延迟检测并在 GRPO 训练中有效抑制奖励投机。

    深度解读完整解读
  2. 评测与基准arXiv 2608.11727

    Harness-IF：评估编码 Agent 跨指令面的指令遵循能力

    提出 Harness-IF，按交付面评测编程 Agent 的指令遵循

    arXiv
    2608.11727
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Seed-2.0-Pro、Claude-Opus-4.7、GPT-5.5 等 12 个
    摘要规则级基准显示总分开高估反先验遵循，交付面优先序也不按提示词深度。

    Harness-IF 用执行证据给编程智能体的单条操作规则打分，并单独报告反对未提示默认的那一部分。。

    深度解读完整解读
已经到底了