跳到正文
10月10日 · 周六

全部论文

找到 10 篇
筛选4

攻击类型

提示注入3

模型自身风险

欺骗与谋划4

防御类型

监控与审计5

影响

数据与隐私泄露3监督失效4

系统形态

模型与 API4AI Agent30coding agent10多智能体3

层

应用层8

系统组件

MCP 与技能4记忆3监控器8权限与沙箱2嵌入0
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 392 篇还没打标签，不在筛选结果里。
系统形态：coding agent系统组件：监控器系统组件：权限与沙箱系统组件：嵌入清除全部

另有 392 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv 2610.06406

    AgentMonBench：面向长时程智能体行为监控的软件工程基准

    提出 AgentMonBench 评测长时程编程智能体监控并检验 EBG

    arXiv
    2610.06406
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    GPT-5.6 Luna、GPT-5.6 Terra、GPT-5.6 Sol 等 8 个
    摘要AgentMonBench 评测后果性决策监控，EBG 组织证据。

    长时程软件工程任务里，用户要判断智能体哪些选择值得核验。作者用 AgentMonBench 评测监控器，并用免训练的 EBG 组织带源证据。

    深度解读完整解读
  4. 评测与基准arXiv 2609.39533

    CATCH：面向编码 RL 奖励作弊的可控分析测试台

    构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效

    arXiv
    2609.39533
    发表
    层
    模型层
    场景
    coding agent
    被测模型
    Qwen3-4B、Qwen3.5-27B
    摘要CATCH 用双运行金标签研究编码 RL 的奖励黑客，并观察到监控会被注释适应削弱。

    CATCH 是面向编码 RL 奖励黑客的可控分析测试床，用可利用环境、可调初始倾向和基于执行的金标签，在训练全程比较黑客动态与干预。

    深度解读完整解读
  5. 评测与基准arXiv 2609.35557

    论文：容器、权限规则与沙箱都无法区分读取研究代码的是编译器还是编码 Agent

    评测容器、权限规则与沙箱能否区分编译器与编码 Agent 的文件读取

    arXiv
    2609.35557
    发表
    层
    应用层
    场景
    coding agent
    摘要此 harness 表达不了编译器可读而智能体不可读，五条路径两边都不覆盖。

    作者在物理流求解器上检查一套编码智能体配置：编译器必须读本组材料与反应模型，这些字节又不得进入模型上下文或离开本机的记录。

    深度解读完整解读
  6. 评测与基准arXiv 2609.28915

    研究提出 ACE 语料库，评估内核级证据对 Agent 安全检测的有效性

    构建 ACE 语料，评测内核级证据对 Agent 攻击检测的有效性

    arXiv
    2609.28915
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    AdaBoost、XGBoost、TabPFN 等 10 个
    摘要ACE 用配对的内核与应用层证据表明，syscall 痕迹可判别智能体攻击，两层组合通常更好。

    ACE 是一份把智能体会话的内核 syscall 痕迹与应用层清单、转录配对起来的检测语料和基准。。

    深度解读完整解读
  10. 评测与基准arXiv 2605.16626

    Sleight-Bench：40 条攻击中 20 条从未被 Opus 4.6 监控发现

    构建 SLEIGHT-Bench 评测代码智能体监控对概念盲点规避的捕获

    arXiv
    2605.16626
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Claude Opus 4.6、Claude Opus 4.7、Claude Sonnet 4.6 等 6 个

    摘要评估针对监控盲点的规避基准，发现前沿监控器漏报率高，算力与脚手架虽有提升但存在类别局限。

    深度解读完整解读
已经到底了