跳到正文
10月8日 · 周四

提示注入 · 论文

找到 7 篇
筛选1

攻击类型

越狱1提示注入6投毒与后门1

攻击技术

自动化搜索1编码与混淆1针对防御1潜伏触发1诱导选用1

防御类型

检测与过滤1指令与数据隔离1权限与审批1监控与审计1

影响

越权操作6数据与隐私泄露1

系统形态

AI Agent7编程 Agent4网页与电脑操作1

攻击者权限

黑盒1

攻击面/入口

用户输入7网页与界面9文档与消息9工具返回16工具与技能描述7代码仓库与依赖7检索语料1记忆写入5Agent 间消息3图像与音视频3分发渠道1

层

应用层7

系统组件

MCP 与技能6记忆1护栏与评审1监控器1权限与沙箱3

被测模型厂商

OpenAI7Anthropic6其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 75 篇还没打标签，不在筛选结果里。
攻击面/入口：工具与技能描述话题：提示注入清除全部

另有 75 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv:2610.05163 ·

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出 PAA 路径对齐归因，审计编程智能体边界动作前的分段提示注入

    编程 Agent测试Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个应用层
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    完整解读
已经到底了