跳到正文
10月8日 · 周四

提示注入 · 论文

找到 6 篇
筛选2

攻击类型

越狱1提示注入5投毒与后门1

攻击技术

自动化搜索1编码与混淆1针对防御1潜伏触发1诱导选用1

防御类型

检测与过滤1指令与数据隔离1权限与审批1监控与审计1

影响

越权操作5数据与隐私泄露1

系统形态

AI Agent6编程 Agent4网页与电脑操作1

攻击者权限

黑盒1

攻击面/入口

用户输入5网页与界面6文档与消息3工具返回6工具与技能描述6代码仓库与依赖6检索语料1记忆写入4Agent 间消息2图像与音视频2分发渠道1

层

应用层6

系统组件

MCP 与技能5记忆1护栏与评审1监控器1权限与沙箱2

被测模型厂商

OpenAI7Anthropic6其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 78 篇还没打标签，不在筛选结果里。
攻击面/入口：工具与技能描述被测模型厂商：Anthropic话题：提示注入清除全部

另有 78 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出 PAA 路径对齐归因，审计编程智能体边界动作前的分段提示注入

    arXiv
    2610.05163
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Code (v2.1.172, Claude Sonnet 5)、Claude Sonnet 5、Claude Opus 4.8 等 7 个
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
  2. 防御arXiv 2610.03089

    COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

    提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击

    arXiv
    2610.03089
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    claude-sonnet-5、gpt-5、UI-TARS-1.5-7B 等 6 个

    摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    深度解读完整解读
  3. 攻击arXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，借 MCP 多通道隐式信任外发敏感数据

    arXiv
    2609.18217
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Haiku 4.5、Sonnet 4.6、Opus 4.6 等 15 个

    摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    深度解读完整解读
已经到底了