跳到正文
10月10日 · 周六

全部论文

找到 6 篇
筛选4

攻击类型

提示注入5

攻击技术

梯度与表征优化3自动化搜索19对话结构操控2跨模态载荷4针对防御8潜伏触发8诱导选用9

影响

越权操作4

系统形态

AI Agent4web agent3

攻击面/入口

用户输入24网页与界面4文档与消息4工具与技能描述2图像与音视频36

层

应用层5

系统组件

视觉4多模态4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
攻击技术：对话结构操控攻击技术：跨模态载荷攻击面/入口：网页与界面攻击面/入口：工具与技能描述清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用局部对抗图像劫持视觉网页 Agent 的浏览器操作

    arXiv
    2610.09240
    发表
    层
    应用层
    场景
    web agent
    被测模型
    LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等 6 个
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
  2. 评测与基准arXiv 2609.35912

    MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

    提出 MMSkillRisk 基准，评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

    arXiv
    2609.35912
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等 6 个

    摘要论文提出 MMSkillRisk 基准与 NCVA 攻击，揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。

    深度解读完整解读
  5. 攻击arXiv 2505.11717

    WebInject：通过网页像素扰动对多模态网页 Agent 实施提示注入

    提出 WebInject，用网页像素扰动诱导网页 Agent 执行指定动作

    arXiv
    2505.11717
    发表
    层
    应用层
    场景
    web agent
    被测模型
    UI-TARS-7B-SFT、Phi-4-multimodal-instruct、Llama-3.2-11B-Vision-Instruct 等 5 个
    摘要WebInject 经源码扰动原始像素。

    WebInject 是对 MLLM 网页智能体的环境提示注入：修改网页源码，使原始像素上的扰动经过显示器映射后，诱导智能体执行攻击者指定动作。

    深度解读完整解读
  6. 攻击arXiv 2406.12814

    论文提出 ARE 框架，在 VisualWebArena 上评估多模态 Agent 的对抗鲁棒性

    提出 ARE 框架与图像文本攻击，评测多模态网页 Agent 的对抗鲁棒性

    arXiv
    2406.12814
    发表
    层
    应用层
    场景
    web agent
    被测模型
    GPT-4o、GPT-4V、Claude-3-Opus 等 4 个

    摘要系统评估多模态网页智能体的脆弱性，指出推理时计算组件被攻破会加剧系统风险。

    深度解读完整解读
已经到底了