评测与基准arXiv:2610.06898 · 9月29日
DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准
提出 DIBench，评测界面注入对移动智能体选择决策的操纵
网页与电脑操作测试Qwen2.5-VL(32B)、Qwen3-VL(32B)、GUI-Owl(32B) 等 7 个应用层
摘要论文提出移动智能体决策完整性基准 DIBench，发现欺诈 UI 注入诱导目标选择并推高完成率，通用防御收益不稳定。
完整解读
评测与基准arXiv:2610.03938 · 10月3日
论文发现多模态模型启用工具后拒答失败率最高上升 68.7%
评测启用工具调用后多模态模型拒答有害图文请求的变化
AI Agent测试Gemini-2.5-Pro、Gemini-3.1-Pro-Preview、Claude Opus 4.6 等 13 个应用层
- 拒答失当
- 视觉
摘要论文揭示了工具调用范式削弱 MLLM 拒答能力的现象，分析了稀释与偏移机制并验证了重注缓解方案。
论文系统评估了智能体工具调用范式对多模态大语言模型拒答能力的影响，指出了工具增强视觉推理背后的安全隐患。核心探讨的问题在于：当 MLLM 从单次推理转向通过 ReAct 循环调用外部工具（打标、缩放、OCR、代码执行）时，工具使用机制本身是否会降低模型拒答有害请求的概率。
完整解读
评测与基准arXiv:2610.05586 · 10月5日
AgentDoxx：联网搜索 Agent 对匿名访谈文本的再识别评测
构建 AGENTDOXX 评测联网搜索智能体对匿名访谈的再识别能力
AI Agent测试GPT-5.6 Terra、GPT-5 Mini、GPT-4.1 Mini 等 10 个应用层
- 恶意使用
- RAG
摘要论文提出了已知身份的重识别基准 AGENTDOXX，揭示搜索与记忆双重风险及现有防御在检索轨迹中的泄露漏洞。
完整解读
评测与基准arXiv:2609.09404 · 9月9日
MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
AI Agent测试Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个应用层
摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。
完整解读
评测与基准arXiv:2607.20891 · 7月23日
MisKnow-Agent 评测
提出 MisKnow-Agent，评测深度研究智能体是否采纳误导性检索知识
AI Agent测试Gemini Deep Research、DeepSeek-V4 Pro、Qwen3.5-397B 等 4 个应用层
- 投毒与后门
- RAG
摘要论文通过 MisKnow-Agent 框架评估发现长程研究智能体易采纳误导性知识，且现有防御难以完全消除该现象。
完整解读
评测与基准arXiv:2609.31342 · 9月25日
研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案
构建知识逆转基准，评测陈旧检索证据如何推翻模型原本正确的回答
LLM 应用测试GPT-4o、GPT-4.1、Claude-Opus-4.5 等 13 个应用层
- RAG
摘要论文评测了陈旧检索推翻正确知识的中毒现象，并分析了其内部机制与防御局限。
这篇论文是对检索增强生成（RAG）中“陈旧文档中毒”现象的实证与机理评估研究。
完整解读
评测与基准arXiv:2609.35912 · 9月28日
MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作
构建多模态技能图像攻击基准 MMSkillRisk 并设计 NCVA
编程 Agent测试GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等 6 个应用层
摘要论文提出 MMSkillRisk 基准与 NCVA 攻击，揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。
完整解读

已经到底了

Agent 安全 · 论文

攻击类型

攻击技术

模型自身风险

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准

论文发现多模态模型启用工具后拒答失败率最高上升 68.7%

AgentDoxx：联网搜索 Agent 对匿名访谈文本的再识别评测

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

MisKnow-Agent 评测

研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案

MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作