跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选7

防御类型

监控与审计3

影响

越权操作8数据与隐私泄露4监督失效11

系统形态

模型与 API6AI Agent10coding agent4web agent0

层

应用层4

系统组件

MCP 与技能6护栏与评审1监控器3推理链0权限与沙箱4嵌入0
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 201 篇还没打标签，不在筛选结果里。
影响：数据与隐私泄露系统形态：coding agent系统形态：web agent系统组件：护栏与评审系统组件：监控器系统组件：推理链系统组件：嵌入清除全部

另有 201 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.11773

    研究提出 Agent 安全新维度：识别未履行的安全义务

    提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务

    arXiv
    2610.11773
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    ObligationGuard、Claude-Opus-4.8、GPT-5.6-Sol 等 17 个
    摘要义务是护栏缺口。

    作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。

    深度解读完整解读
  2. 防御arXiv 2609.19587

    红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器

    提出 Auto Mode ++，加固编码 Agent 阻断监视器

    arXiv
    2609.19587
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Opus 5、Opus 4.8、Opus 4.7 等 8 个

    摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。

    深度解读完整解读
已经到底了