跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选5

模型自身风险

欺骗与谋划3Agent 危险操作4

影响

越权操作9数据与隐私泄露4输出被操纵5

系统形态

AI Agent8coding agent3web agent1多智能体0

层

应用层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 196 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作影响：数据与隐私泄露系统形态：coding agent系统形态：web agent系统形态：多智能体清除全部

另有 196 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.11773

    研究提出 Agent 安全新维度：识别未履行的安全义务

    提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务

    arXiv
    2610.11773
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    ObligationGuard、Claude-Opus-4.8、GPT-5.6-Sol 等 17 个
    摘要义务是护栏缺口。

    作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。

    深度解读完整解读
  2. 评测与基准arXiv 2609.35557

    论文：容器、权限规则与沙箱都无法区分读取研究代码的是编译器还是编码 Agent

    评测容器、权限规则与沙箱能否区分编译器与编码 Agent 的文件读取

    arXiv
    2609.35557
    发表
    层
    应用层
    场景
    coding agent
    摘要此 harness 表达不了编译器可读而智能体不可读，五条路径两边都不覆盖。

    作者在物理流求解器上检查一套编码智能体配置：编译器必须读本组材料与反应模型，这些字节又不得进入模型上下文或离开本机的记录。

    深度解读完整解读
  4. 评测与基准arXiv 2605.14859

    论文提出 AuthBench 基准，评测编码 Agent 能否推断最小权限边界

    提出 AuthBench 评测编码 Agent 最小权限，并验证充足性-紧缩性分解

    arXiv
    2605.14859
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    GPT-5、GPT-5.3-Codex、GPT-5.4 等 9 个
    摘要论文提出权限边界推断基准与两阶段分解方法，有效降低安全暴露。

    本文研究代码智能体在执行终端任务前自主推断最小文件权限边界的能力。

    深度解读完整解读
已经到底了