跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 5 篇
筛选3

攻击类型

提示注入4投毒与后门1

攻击技术

潜伏触发2

模型自身风险

奖励作弊1

防御类型

监控与审计1

影响

越权操作4监督失效1

系统形态

AI Agent5编程 Agent5网页与电脑操作1

攻击面/入口

用户输入20网页与界面8文档与消息9工具返回21工具与技能描述11代码仓库与依赖5检索语料1记忆写入5Agent 间消息6分发渠道3

层

应用层5

系统组件

MCP 与技能3记忆3RAG1护栏与评审2监控器1权限与沙箱4

被测模型厂商

Anthropic5其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 307 篇还没打标签，不在筛选结果里。
攻击面/入口：代码仓库与依赖系统组件：监控器系统组件：权限与沙箱话题：Agent 安全清除全部

另有 307 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2605.12673

    UC Berkeley 提出 BenchJack，自动审计 10 个 Agent 基准并发现 219 处奖励作弊缺陷

    提出 BENCHJACK，自动审计智能体基准的奖励作弊缺陷

    arXiv
    2605.12673
    发表
    层
    应用层
    场景
    编程 Agent、网页与电脑操作
    测试
    Claude Code、OpenAI Codex
    摘要论文系统揭示了智能体基准的奖励作弊隐患，提出自动化红队审计与迭代修补系统 BENCHJACK。

    论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。

    深度解读完整解读
  3. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出 PAA 路径对齐归因，审计编程智能体边界动作前的分段提示注入

    arXiv
    2610.05163
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
已经到底了