跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选6

攻击类型

提示注入4

攻击技术

梯度与表征优化4自动化搜索15多轮渐进0角色扮演与说服3对话结构操控3推理链操控3跨模态载荷5潜伏触发9诱导选用0

影响

越权操作3

系统形态

AI Agent3web agent3

攻击面/入口

用户输入34网页与界面3文档与消息1工具返回4工具与技能描述10代码仓库与依赖0图像与音视频24训练数据4权重与梯度5分发渠道9

层

应用层4

系统组件

视觉4多模态4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 196 篇还没打标签，不在筛选结果里。
攻击技术：梯度与表征优化攻击技术：多轮渐进攻击技术：诱导选用攻击面/入口：网页与界面攻击面/入口：文档与消息攻击面/入口：代码仓库与依赖清除全部

另有 196 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用局部对抗图像劫持视觉网页 Agent 的浏览器操作

    arXiv
    2610.09240
    发表
    层
    应用层
    场景
    web agent
    被测模型
    LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等 6 个
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
  2. 攻击arXiv 2606.12716

    PaperGuard：针对多模态 AI 同行评审的攻击与防御基准

    提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

    arXiv
    2606.12716
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Claude-sonnet-4.5、GPT-4o、GPT-4.1 等 11 个
    摘要PaperGuard 测到提示注入与白盒视觉抬分，并比较分块检索防御。

    PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。

    深度解读完整解读
  3. 攻击arXiv 2505.11717

    WebInject：通过网页像素扰动对多模态网页 Agent 实施提示注入

    提出 WebInject，用网页像素扰动诱导网页 Agent 执行指定动作

    arXiv
    2505.11717
    发表
    层
    应用层
    场景
    web agent
    被测模型
    UI-TARS-7B-SFT、Phi-4-multimodal-instruct、Llama-3.2-11B-Vision-Instruct 等 5 个
    摘要WebInject 经源码扰动原始像素。

    WebInject 是对 MLLM 网页智能体的环境提示注入：修改网页源码，使原始像素上的扰动经过显示器映射后，诱导智能体执行攻击者指定动作。

    深度解读完整解读
  4. 攻击arXiv 2406.12814

    论文提出 ARE 框架，在 VisualWebArena 上评估多模态 Agent 的对抗鲁棒性

    提出 ARE 框架与图像文本攻击，评测多模态网页 Agent 的对抗鲁棒性

    arXiv
    2406.12814
    发表
    层
    应用层
    场景
    web agent
    被测模型
    GPT-4o、GPT-4V、Claude-3-Opus 等 4 个

    摘要系统评估多模态网页智能体的脆弱性，指出推理时计算组件被攻破会加剧系统风险。

    深度解读完整解读
已经到底了