跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 4 篇
筛选2

攻击类型

提示注入3投毒与后门1

攻击技术

编码与混淆1跨模态载荷3

模型自身风险

拒答失当1

影响

有害内容1越权操作2输出被操纵1

系统形态

AI Agent4编程 Agent1网页与电脑操作1

攻击面/入口

网页与界面1文档与消息1工具与技能描述1图像与音视频3分发渠道1

层

应用层4

系统组件

MCP 与技能9记忆12RAG3护栏与评审2监控器7权限与沙箱6视觉4音频1多模态4

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 383 篇还没打标签，不在筛选结果里。
系统组件：音频系统组件：多模态话题：Agent 安全清除全部

另有 383 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv:2610.03938 ·

    论文发现多模态模型启用工具后拒答失败率最高上升 68.7%

    评测启用工具调用后多模态模型拒答有害图文请求的变化

    AI Agent测试Gemini-2.5-Pro、Gemini-3.1-Pro-Preview、Claude Opus 4.6 等 13 个应用层
    摘要论文揭示了工具调用范式削弱 MLLM 拒答能力的现象，分析了稀释与偏移机制并验证了重注缓解方案。

    论文系统评估了智能体工具调用范式对多模态大语言模型拒答能力的影响，指出了工具增强视觉推理背后的安全隐患。核心探讨的问题在于：当 MLLM 从单次推理转向通过 ReAct 循环调用外部工具（打标、缩放、OCR、代码执行）时，工具使用机制本身是否会降低模型拒答有害请求的概率。

    完整解读
已经到底了