10月9日 · 周五

提示注入 · 论文

找到 3 篇

筛选2

攻击类型

越狱2 提示注入2 提取与窃取1

攻击技术

自动化搜索2 诱导选用1

防御类型

检测与过滤1

影响

越权操作1 数据与隐私泄露2

系统形态

LLM 应用1 AI Agent2

攻击者权限

攻击面/入口

用户输入3 工具返回2 工具与技能描述1 代码仓库与依赖1

层

提示层2 应用层3

系统组件

MCP 与技能1 RAG1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 45 篇还没打标签，不在筛选结果里。

攻击者权限：黑盒层：应用层话题：提示注入清除全部

另有 45 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv 2607.261157月29日
OpenAI 发布 GPT-Red：通过自博弈训练自动化红队智能体
提出自博弈红队智能体 GPT-Red，自动挖掘提示注入与越狱攻击
arXiv
2607.26115
发表
7月29日
层
应用层
场景
AI Agent
攻击者
黑盒
测试
GPT-5.6、GPT-5.5、GPT-5.4 等 8 个
- 攻击提示注入
- 技术自动化搜索
深度解读完整解读
防御arXiv 2608.178298月18日
LeakGauge：用行为探针在解码前检测上下文泄露攻击信号
提出 LeakGauge，用行为后缀的 prefill 对数概率检测上下文泄露
arXiv
2608.17829
发表
8月18日
层
应用层
场景
LLM 应用
攻击者
黑盒
测试
Gemma-4-E4B-it、Gemma-4-31B-it、Qwen2.5-14B-Instruct 等 11 个
- 防御检测与过滤
- 攻击提取与窃取
- 组件RAG
深度解读完整解读
攻击arXiv 2608.304418月31日
ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹
arXiv
2608.30441
发表
8月31日
层
应用层
场景
AI Agent
攻击者
黑盒
测试
DeepSeek、GPT-4o、Claude 4.8 Opus 等 7 个
- 攻击提示注入
- 技术自动化搜索
- 组件MCP 与技能
深度解读完整解读

已经到底了