10月8日 · 周四

提示注入 · 论文

找到 2 篇

筛选2

攻击类型

越狱1 提示注入2

攻击技术

自动化搜索1 诱导选用1

影响

越权操作1 数据与隐私泄露1

系统形态

攻击者权限

攻击面/入口

用户输入1 文档与消息1 工具返回2 工具与技能描述1

层

系统组件

MCP 与技能1 记忆3 RAG1 护栏与评审3 监控器1 权限与沙箱1 视觉1 音频1 多模态1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 75 篇还没打标签，不在筛选结果里。

系统组件：MCP 与技能系统组件：权限与沙箱话题：提示注入清除全部

另有 75 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2608.30441 · 8月31日
ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹
AI Agent攻击者黑盒测试DeepSeek、GPT-4o、Claude 4.8 Opus 等 7 个应用层
完整解读
评测与基准arXiv:2609.32691 · 9月26日
研究审计 Agent 安全评测缺陷：工具调用中介在间接提示注入下的有效评测框架
提出卡点评测框架，以实参级谓词审计间接提示注入评测的测量偏差
AI Agent测试gpt-5.6-terra、llama3.1:8b、gemma4:12b 等 4 个应用层
- 提示注入
- 权限与沙箱
摘要论文揭示了 IPI 评测中导致指标虚高的系统性缺陷，通过构建有效评测框架纠正了多项安全与模型能力结论。
完整解读

已经到底了