跳到正文
10月10日 · 周六

Agent 安全 · 论文

找到 2 篇
筛选5

防御类型

检测与过滤2指令与数据隔离6权限与审批14

影响

越权操作3数据与隐私泄露1输出被操纵1可用性与可靠性0滥用能力提升0
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。
防御类型：检测与过滤影响：数据与隐私泄露影响：输出被操纵影响：可用性与可靠性影响：滥用能力提升话题：Agent 安全清除全部
  1. 评测与基准arXiv 2610.11773

    研究提出 Agent 安全新维度：识别未履行的安全义务

    提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务

    arXiv
    2610.11773
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    ObligationGuard、Claude-Opus-4.8、GPT-5.6-Sol 等 17 个
    摘要义务是护栏缺口。

    作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。

    深度解读完整解读
已经到底了