10月8日 · 周四

红队 · 论文

找到 2 篇

筛选2

攻击类型

提示注入2 投毒与后门1

攻击技术

编码与混淆1 跨模态载荷2

影响

系统形态

AI Agent2 编程 Agent1

攻击面/入口

文档与消息1 工具与技能描述1 图像与音视频2 分发渠道1

层

系统组件

MCP 与技能6 记忆2 RAG1 护栏与评审3 监控器3 权限与沙箱3 视觉2 音频1 多模态2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。

系统组件：音频系统组件：多模态话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2609.09404 · 9月9日
MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
AI Agent测试Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个应用层
摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。
完整解读
评测与基准arXiv:2609.35912 · 9月28日
MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作
构建多模态技能图像攻击基准 MMSkillRisk 并设计 NCVA
编程 Agent测试GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等 6 个应用层
摘要论文提出 MMSkillRisk 基准与 NCVA 攻击，揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。
完整解读

已经到底了