跳到正文
10月13日 · 周二

全部论文

找到 6篇
筛选4

攻击类型

提示注入4

攻击技术

梯度与表征优化6自动化搜索24编码与混淆7跨模态载荷5侧信道4针对防御10潜伏触发9诱导选用10

影响

越权操作3输出被操纵3

系统形态

AI Agent4web agent4

攻击面/入口

用户输入22网页与界面4工具与技能描述0检索语料4图像与音视频33训练数据4权重与梯度11推理服务与硬件2

层

应用层4

系统组件

视觉4多模态4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 227篇还没打标签，不在筛选结果里。
攻击技术：梯度与表征优化攻击面/入口：网页与界面攻击面/入口：工具与技能描述攻击面/入口：推理服务与硬件清除全部

另有227篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用局部对抗图像劫持视觉网页 Agent 的浏览器操作

    arXiv
    2610.09240
    发表
    层
    应用层
    场景
    web agent
    被测模型
    LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等6个
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
  2. 攻击arXiv 2610.05894

    研究者提出闭环偏见注入攻击

    提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

    arXiv
    2610.05894
    发表
    层
    模型层
    场景
    模型与 API
    攻击者
    灰盒
    被测模型
    LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

    摘要通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。

    深度解读完整解读
  3. 攻击arXiv 2603.16960

    针对现代视觉语言模型的对抗攻击

    对开源视觉购物智能体实施商品图对抗攻击并诱导买错

    arXiv
    2603.16960
    发表
    层
    应用层
    场景
    web agent
    被测模型
    LLaVA-v1.5-7B、Qwen2.5-VL-7B
    摘要作者称 LLaVA 易被三种攻击诱导买错，Qwen 正确购买率仍接近其干净条件。

    作者在自建电商环境里比较两个开源 VLM 购物智能体对图像对抗扰动的鲁棒性。

    深度解读完整解读
  4. 攻击arXiv 2602.17837

    TFL：针对大语言模型的定向比特翻转攻击

    提出 TFL 定向比特翻转，使选定提示输出虚假答案且无关查询保持正确

    arXiv
    2602.17837
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3-8B、DeepSeek-R1-Distill-Qwen-14B、LLaMA-3.1-8B-INSTRUCT
    摘要TFL 在三个 LLM 上搜索权重比特，使指定提示出现目标关键词，并约束无关任务下降。

    TFL 是对 LLM 主存权重的目标比特翻转框架：攻击者要让选定提示输出指定虚假答案关键词，同时限制无关查询上的降质。

    深度解读完整解读
  5. 攻击arXiv 2505.11717

    WebInject：通过网页像素扰动对多模态网页 Agent 实施提示注入

    提出 WebInject，用网页像素扰动诱导网页 Agent 执行指定动作

    arXiv
    2505.11717
    发表
    层
    应用层
    场景
    web agent
    被测模型
    UI-TARS-7B-SFT、Phi-4-multimodal-instruct、Llama-3.2-11B-Vision-Instruct 等5个
    摘要WebInject 经源码扰动原始像素。

    WebInject 是对 MLLM 网页智能体的环境提示注入：修改网页源码，使原始像素上的扰动经过显示器映射后，诱导智能体执行攻击者指定动作。

    深度解读完整解读
  6. 攻击arXiv 2406.12814

    论文提出 ARE 框架，在 VisualWebArena 上评估多模态 Agent 的对抗鲁棒性

    提出 ARE 框架与图像文本攻击，评测多模态网页 Agent 的对抗鲁棒性

    arXiv
    2406.12814
    发表
    层
    应用层
    场景
    web agent
    被测模型
    GPT-4o、GPT-4V、Claude-3-Opus 等4个

    摘要系统评估多模态网页智能体的脆弱性，指出推理时计算组件被攻破会加剧系统风险。

    深度解读完整解读
已经到底了