跳到正文
10月12日 · 周一

全部论文

找到 4篇
筛选4

攻击类型

提示注入4

攻击技术

梯度与表征优化4跨模态载荷4针对防御0

影响

越权操作3

系统形态

LLM 应用8AI Agent28coding agent6web agent4

攻击面/入口

网页与界面4图像与音视频3

层

应用层4

系统组件

视觉4多模态4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 254篇还没打标签，不在筛选结果里。
攻击技术：梯度与表征优化攻击技术：针对防御系统形态：web agent层：应用层清除全部

另有254篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用局部对抗图像劫持视觉网页 Agent 的浏览器操作

    arXiv
    2610.09240
    发表
    层
    应用层
    场景
    web agent
    被测模型
    LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等6个
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
  2. 攻击arXiv 2603.16960

    针对现代视觉语言模型的对抗攻击

    对开源视觉购物智能体实施商品图对抗攻击并诱导买错

    arXiv
    2603.16960
    发表
    层
    应用层
    场景
    web agent
    被测模型
    LLaVA-v1.5-7B、Qwen2.5-VL-7B
    摘要作者称 LLaVA 易被三种攻击诱导买错，Qwen 正确购买率仍接近其干净条件。

    作者在自建电商环境里比较两个开源 VLM 购物智能体对图像对抗扰动的鲁棒性。

    深度解读完整解读
  3. 攻击arXiv 2505.11717

    WebInject：通过网页像素扰动对多模态网页 Agent 实施提示注入

    提出 WebInject，用网页像素扰动诱导网页 Agent 执行指定动作

    arXiv
    2505.11717
    发表
    层
    应用层
    场景
    web agent
    被测模型
    UI-TARS-7B-SFT、Phi-4-multimodal-instruct、Llama-3.2-11B-Vision-Instruct 等5个
    摘要WebInject 经源码扰动原始像素。

    WebInject 是对 MLLM 网页智能体的环境提示注入：修改网页源码，使原始像素上的扰动经过显示器映射后，诱导智能体执行攻击者指定动作。

    深度解读完整解读
  4. 攻击arXiv 2406.12814

    论文提出 ARE 框架，在 VisualWebArena 上评估多模态 Agent 的对抗鲁棒性

    提出 ARE 框架与图像文本攻击，评测多模态网页 Agent 的对抗鲁棒性

    arXiv
    2406.12814
    发表
    层
    应用层
    场景
    web agent
    被测模型
    GPT-4o、GPT-4V、Claude-3-Opus 等4个

    摘要系统评估多模态网页智能体的脆弱性，指出推理时计算组件被攻破会加剧系统风险。

    深度解读完整解读
已经到底了