跳到正文
10月10日 · 周六

全部论文

找到 3 篇
筛选5

攻击类型

越狱18提示注入3提取与窃取0检测规避3

影响

输出被操纵3

系统形态

模型与 API3

攻击面/入口

图像与音视频3

层

提示层3模型层0应用层14

系统组件

护栏与评审3推理链5视觉3图像生成5多模态10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
攻击类型：提示注入攻击类型：提取与窃取层：提示层层：模型层系统组件：视觉清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.04859

    MM-IFEval-Pro：面向视觉语言模型的多语言抗攻击指令遵循基准

    提出抗攻击多语言视觉指令遵循基准 MM-IFEval-Pro

    arXiv
    2609.04859
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen3-VL-8B-Instruct、InternVL3.5-8B、MiniCPM-V4.5 等 5 个
    摘要MM-IFEval-Pro 以规则验证评测中英指令遵循与视觉劫持，GRPO 提高两基座平均分。

    MM-IFEval-Pro 是面向 VLM 的中英多模态指令遵循基准，并配有可用规则计算奖励的 GRPO 训练集。

    深度解读完整解读
  3. 攻击arXiv 2602.15927

    研究者提出面向多轮对话的视觉记忆注入攻击 VMI

    提出 VMI，用扰动图像在多轮对话中潜伏并仅在触发话题输出预定消息

    arXiv
    2602.15927
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen2.5-VL-7B-Instruct、Qwen3-VL-8B-Instruct、LLaVA-OneVision-1.5-8B-Instruct 等 5 个
    摘要VMI 让扰动图像在多轮 LVLM 中潜伏，作者称触发话题出现后仍可输出预定消息。

    VMI 是面向多轮 LVLM 的定向图像攻击：第三方发布带小扰动的图像，良性用户把它当作普通输入。

    深度解读完整解读
已经到底了