10月8日 · 周四

Agent 安全 · 论文

找到 3 篇

筛选1

攻击类型

提示注入3 投毒与后门1

攻击技术

编码与混淆1 跨模态载荷3

影响

越权操作2 输出被操纵1

系统形态

AI Agent3 编程 Agent1 网页与电脑操作1

攻击面/入口

用户输入11 网页与界面3 文档与消息6 工具返回8 工具与技能描述8 代码仓库与依赖7 检索语料1 记忆写入10 Agent 间消息3 图像与音视频3 分发渠道3 推理服务与硬件1

层

系统组件

MCP 与技能1 视觉3 音频1 多模态3

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 380 篇还没打标签，不在筛选结果里。

攻击面/入口：图像与音视频话题：Agent 安全清除全部

另有 380 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2610.06898 · 9月29日
DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准
提出 DIBench，评测界面注入对移动智能体选择决策的操纵
网页与电脑操作测试Qwen2.5-VL(32B)、Qwen3-VL(32B)、GUI-Owl(32B) 等 7 个应用层
摘要论文提出移动智能体决策完整性基准 DIBench，发现欺诈 UI 注入诱导目标选择并推高完成率，通用防御收益不稳定。
完整解读
评测与基准arXiv:2609.09404 · 9月9日
MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
AI Agent测试Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个应用层
摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。
完整解读
评测与基准arXiv:2609.35912 · 9月28日
MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作
构建多模态技能图像攻击基准 MMSkillRisk 并设计 NCVA
编程 Agent测试GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等 6 个应用层
摘要论文提出 MMSkillRisk 基准与 NCVA 攻击，揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。
完整解读

已经到底了