10月8日 · 周四

提示注入 · 论文

找到 2 篇

筛选2

攻击类型

攻击技术

跨模态载荷1

影响

越权操作1 数据与隐私泄露1

系统形态

攻击面/入口

文档与消息2 工具返回1 图像与音视频1

层

系统组件

MCP 与技能1 记忆3 RAG1 护栏与评审3 监控器1 权限与沙箱1 视觉1 音频1 多模态1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 75 篇还没打标签，不在筛选结果里。

系统组件：权限与沙箱系统组件：音频话题：提示注入清除全部

另有 75 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2609.09404 · 9月9日
MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
AI Agent测试Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个应用层
摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。
完整解读
评测与基准arXiv:2609.32691 · 9月26日
研究审计 Agent 安全评测缺陷：工具调用中介在间接提示注入下的有效评测框架
提出卡点评测框架，以实参级谓词审计间接提示注入评测的测量偏差
AI Agent测试gpt-5.6-terra、llama3.1:8b、gemma4:12b 等 4 个应用层
- 提示注入
- 权限与沙箱
摘要论文揭示了 IPI 评测中导致指标虚高的系统性缺陷，通过构建有效评测框架纠正了多项安全与模型能力结论。
完整解读

已经到底了