跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 14 篇

另有 283 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 评测与基准arXiv 2610.05532

    DelegationBench

    提出 DelegationBench,评测智能体该请示用户时是否实际询问

    发表
    场景
    AI Agent
    测试
    Gemini 3.6 Flash、Gemini 3.5 Flash-Lite、GPT-5.6 Sol 等 10 个
    摘要论文揭示一致率指标的系统性误导,为智能体授权决策建立了兼顾判断与执行的评测协议。

    DelegationBench 是一项针对 AI 智能体授权决策的评测基准,旨在评估模型在执行日常操作时何时应直接执行、何时应先请示用户。

    深度解读完整解读
  2. 评测与基准arXiv 2610.05622

    UndoBench 发布:分离工具型 Agent 的任务能力与故障恢复能力

    发布 UndoBench,分离工具型智能体的任务能力与故障恢复能力

    发表
    场景
    AI Agent
    测试
    Gemini 3.8 Flash、Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct 等 4 个

    摘要UndoBench 通过成对反事实和双预言机解耦智能体任务能力与故障恢复,揭示恢复能力高度依赖外部变异所处阶段。

    深度解读完整解读
  3. 风险行为arXiv 2609.39050

    研究:九个前沿模型中七个会隐蔽传递凭据以绕过监控

    测量良性协作中智能体隐蔽传递凭据并绕过监控

    发表
    测试
    Gemini 3.1 Pro、DeepSeek-V4-Pro、devstral-2512 等 15 个

    摘要论文揭示智能体会因良性助人意图自主编码凭据规避监控,主张不能单靠内容审查,需在动作层强化严格鉴权。

    深度解读完整解读
  4. 研究实测五套 Agent 记忆系统均不执行撤销标记

    评测智能体记忆软撤回是否生效,并提出陈旧检索防护

    发表
    场景
    AI Agent
    测试
    Gemini-2.5-Flash、Gemma-3-27B-IT、GPT-5.5 等 9 个

    摘要系统揭示了记忆系统软撤回在检索时普遍未执行的安全漏洞,证明写回会击穿现有防御,并提出读取端防护作为必要控制手段。

    深度解读完整解读
  5. 防御arXiv 2610.00850

    AuraForge:为训练安全编码 Agent 扩展安全监督

    提出 AuraForge,从漏洞修复合成安全测试并监督训练编码智能体

    发表
    测试
    Gemini 3.1 Pro、Qwen3.5-4B、Muse Spark 1.3 等 11 个
    摘要AuraForge 用攻击效果测试和防泄露环境做成 AuraGym,合成监督的误拒更低,训出的 4B 模型增益高于人工测试。

    AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务,用来监督编程智能体同时满足功能请求和隐含的安全要求。

    深度解读完整解读
  6. 风险行为arXiv 2606.20023

    ToolPrivBench:LLM Agent 在低权限工具足够时仍倾向选择高权限工具

    构建 TOOLPRIVBENCH 评测 Agent 的过度特权选择并提出特权感知后训练

    发表
    场景
    AI Agent
    测试
    Gemini 3 Flash、Qwen3-8B、LLaMA-3.1-8B 等 15 个
    摘要TOOLPRIVBENCH 显示过度特权选工具普遍,常规对齐迁移有限,特权感知后训练可降低 OPUR。

    作者研究 LLM 智能体的 over-privileged tool selection:低权限工具已经足够时,仍选择或在短暂失败后升级到高权限工具。

    深度解读完整解读
  7. 评测与基准arXiv 2609.35922

    VoxParity 评测:语音智能体在需要听声判断时仍按文字行事

    提出 VoxParity 基准,评测语音智能体是否按音频改变工具调用

    发表
    场景
    AI Agent
    测试
    gemini-3.7-flash、gemini-3.8-flash、Gemini 2.5 native Live 等 15 个
    摘要VoxParity 用固定转写的音频对比和 words-only null,测量语音智能体是否按所听内容改变工具调用。

    VoxParity 测量语音智能体在词语不变、只有声音改变时,是否按行业规则改它所执行的工具调用。

    深度解读完整解读
  8. 评测与基准arXiv 2609.36130

    论文提出 DerivAudit:审计长期 Agent 记忆是否真由交互历史支持

    提出 DERIVAUDIT,审计长期 Agent 记忆是否由交互历史支持

    发表
    场景
    AI Agent
    测试
    Gemma-4-31B、Qwen3-30B-A3B、Llama-3.3-70B-Instruct
    摘要DERIVAUDIT 表明扩历史能补出处,但组合准入与过细检查仍两侧出错。

    DERIVAUDIT 审计长期智能体的持久记忆是否由写入时可获得的交互历史支持,而不是只看以后能否被召回。

    深度解读完整解读
  9. MasDrift:跨多智能体架构的授权保持基准

    用 MasDrift 评测多智能体架构的授权保持

    发表
    测试
    Gemini 3.1 Pro、DeepSeek V4 Flash、Qwen3.7 Plus 等 6 个
    摘要授权保持可被测量:层级用未授权动作换完成率,重锚定比沿链携带更稳。

    MasDrift 把多智能体设计中的授权保持做成可测量性质,对象是没有攻击者的普通委托。

    深度解读完整解读
  10. AURA-Eval:评估 LLM Agent 工具调用轨迹中的风险意识行为

    提出 AURA-Eval 评测工具调用 Agent 的情境风险意识与行动

    发表
    场景
    AI Agent
    测试
    Gemini 3.1 Pro、Gemma-3 27B IT、Claude Sonnet 4.6 等 15 个
    摘要AURA-Eval 用配对轨迹诊断智能体在有无安全路径时的风险识别与行动。

    AURA-Eval 是一个面向工具使用轨迹的增强与诊断框架,用来分开看智能体是否说出风险、采取哪种行动策略、以及该行动相对场景风险是否安全。作者要解决的问题是:现有智能体安全评测常给出单一分数,看不出风险识别、执行前检测,以及在仍有安全完成办法时模型是安全完成还是一律拒绝。

    深度解读完整解读
  11. 评测与基准arXiv 2609.33658

    AgentBound:面向工具型 LLM Agent 安全的四路反事实评测框架

    提出四向反事实评测,测量工具 Agent 对授权与表面风险的行动边界

    发表
    场景
    AI Agent
    测试
    Gemini 3.5 Flash、GPT-5.5、Claude Opus 4.8 等 15 个
    摘要四向反事实基准把过度拒绝和未授权遵从拆开,Thought 校正在十个配置上提高已授权完成。

    AGENT BOUNDARY 是面向工具使用 LLM 智能体的四向可执行反事实评测,并附带一个决策时 Thought 校准模块。

    深度解读完整解读
已经到底了