跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选6

模型自身风险

奖励作弊15Agent 危险操作4

影响

越权操作3

系统形态

模型与 API0AI Agent4coding agent1web agent0

层

应用层3

系统组件

记忆4护栏与评审4监控器12权限与沙箱22多模态3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作系统形态：模型与 API系统形态：AI Agent系统形态：coding agent系统形态：web agent系统组件：护栏与评审清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.11773

    研究提出 Agent 安全新维度：识别未履行的安全义务

    提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务

    arXiv
    2610.11773
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    ObligationGuard、Claude-Opus-4.8、GPT-5.6-Sol 等 17 个
    摘要义务是护栏缺口。

    作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。

    深度解读完整解读
  2. 评测与基准arXiv 2610.07359

    论文实测 Agent 工具调用门控栈的失败相关性

    提出 nmult 并评测 Agent 动作门禁堆叠的错误相关性

    arXiv
    2610.07359
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    AgentTrust runtime (174 rules)、GPT-5.5 (gpt55)、claude-haiku-4-5-20251001 等 7 个
    摘要论文实测发现大模型裁判间错误显著相关，作者主张按机制选型并在整栈层面度量防护增益。

    论文是一项针对智能体动作拦截防御堆叠故障关联性与实际组合价值的实证测量研究。

    深度解读完整解读
  4. 评测与基准arXiv 2609.34862

    JEV 作为智能体轨迹安全评判器：与生成式 LLM 评判器的实证对比

    对比类型化评审与生成式评审对智能体轨迹的安全判定

    arXiv
    2609.34862
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    JEV、GLM-5.2-Tencent、DeepSeek-V4-Flash 等 5 个
    摘要JEV 的四基准平均正类 F1 最高，延迟和估计费用更低，但分数据集与精确率有取舍。

    在已保存的工具使用智能体轨迹上，比较类型化评审 JEV 与四种生成式评审的回溯安全分类。

    深度解读完整解读
已经到底了