跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 6 篇
筛选2

攻击类型

提示注入3

模型自身风险

奖励作弊1Agent 危险操作1

防御类型

指令与数据隔离3权限与审批5

影响

越权操作4输出被操纵1监督失效1

系统形态

AI Agent6编程 Agent1网页与电脑操作3

攻击面/入口

用户输入12网页与界面6文档与消息4工具返回12工具与技能描述9代码仓库与依赖4检索语料1记忆写入4Agent 间消息4分发渠道2

层

应用层6

系统组件

MCP 与技能4记忆2护栏与评审3监控器2权限与沙箱6视觉2多模态2

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 307 篇还没打标签，不在筛选结果里。
攻击面/入口：网页与界面系统组件：权限与沙箱话题：Agent 安全清除全部

另有 307 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2605.12673

    UC Berkeley 提出 BenchJack，自动审计 10 个 Agent 基准并发现 219 处奖励作弊缺陷

    提出 BENCHJACK，自动审计智能体基准的奖励作弊缺陷

    arXiv
    2605.12673
    发表
    层
    应用层
    场景
    编程 Agent、网页与电脑操作
    测试
    Claude Code、OpenAI Codex
    摘要论文系统揭示了智能体基准的奖励作弊隐患，提出自动化红队审计与迭代修补系统 BENCHJACK。

    论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。

    深度解读完整解读
  3. 防御arXiv 2610.03089

    COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

    提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击

    arXiv
    2610.03089
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个

    摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    深度解读完整解读
  4. 防御arXiv 2607.13716

    CAVA：面向智能体 AI 运行时治理的规范动作验证与证明

    提出 CAVA，把异构智能体运行时事件规范成可哈希动作并绑定审批与回执

    arXiv
    2607.13716
    发表
    层
    应用层
    场景
    AI Agent
    摘要CAVA 用规范动作指纹承接异构运行时治理。

    CAVA 是给异构智能体运行时用的动作语义层，用来回答“被批准和被审计的到底是哪一个动作”。

    深度解读完整解读
已经到底了