跳到正文
10月12日 · 周一

全部论文

找到 15篇
筛选3
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 232篇还没打标签,不在筛选结果里。

另有232篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2609.38253

    CollageAttack:利用跨模态对齐缺陷对 T2I 模型实施空间文本组合越狱

    提出 CollageAttack,用空间文本碎片重组越狱文生图模型

    发表
    攻击者
    黑盒
    被测模型
    GPT-Image-2、Doubao-Seedream-5.0-Lite、Wan2.7-Image-Pro 等5个

    摘要系统揭示 T2I 跨模态空间合成安全漏洞,证实离散无害元素可在图像层面重构有害意图并放大传播强度。

    深度解读完整解读
  2. 攻击arXiv 2609.07216

    DIVA:利用视觉锚点对视频生成模型实施多模态越狱

    提出 DIVA,将有害意图拆成视觉锚点与运动文本以越狱视频生成模型

    发表
    攻击者
    黑盒
    被测模型
    Wan、CogVideoX、LTX-Video 等9个
    摘要DIVA 用视觉锚点抑制语义漂移做视频越狱,并给出多条件安全基准 TI2VSafetyBench。

    DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱:用一致性机制本身堵住语义漂移这条安全逃逸路径。。

    深度解读完整解读
  3. 攻击arXiv 2606.01837

    论文提出 DSR 跨模态越狱框架:用良性输入诱导 MLLM 有害输出

    提出 DSR 跨模态越狱,用无害图文诱导 MLLM 生成有害图像

    发表
    攻击者
    黑盒
    被测模型
    gemini-2.5-flash-image、qwen-image-2.0、Tongyi Wanx 2.5
    摘要DSR 用无害图文诱导商业 MLLM 输出有害图像,作者称组合能力会反过来扩大攻击面。

    DSR 是一种 black-box 跨模态越狱:输入侧不放显式有害内容,而让商业 MLLM 在推理中把无害图文重组成有害图像。

    深度解读完整解读
  4. 攻击arXiv 2603.07590

    模型作为乐高搭建者:用语义蓝图从无害积木拼装恶意

    提出 StructAttack,用结构图把无害语义槽诱导视觉模型拼成恶意内容

    发表
    攻击者
    黑盒
    被测模型
    GPT-4o (1120)、Gemini-2.0-Flash (001)、Gemini-2.5-Flash 等6个
    摘要StructAttack 把有害查询拆成无害槽并画进结构图,在黑盒单次查询下诱导 LVLM 填出有害内容。

    StructAttack 是针对 LVLM 的黑盒、单次查询越狱:把有害指令拆成单独看似无害的槽,画进结构图,再让模型把槽拼回有害内容。。

    深度解读完整解读
  5. 攻击arXiv 2603.07028

    两帧即可:针对文本到视频模型越狱的时序攻击

    提出 TFM,用起止帧与隐式替换越狱文生视频模型

    发表
    攻击者
    黑盒
    被测模型
    Pixverse V5、Hailuo 02、Kling 2.1 Master 等4个
    摘要TFM 先抽起止帧再做隐式替换。

    TFM 是面向文生视频的严格黑盒提示越狱,利用模型对未写明中间过程的时间补全。

    深度解读完整解读
  6. 攻击arXiv 2602.10148

    红队多模态推理:跨模态纠缠攻击越狱视觉语言模型

    提出 COMET 跨模态纠缠攻击,越狱视觉语言模型

    发表
    攻击者
    黑盒
    被测模型
    GPT-4.1、GPT-4.1-mini、Gemini-2.5-Flash 等9个
    摘要COMET 做黑盒跨模态纠缠越狱。

    COMET 是面向具备多模态推理的 VLM 的黑盒越狱,用来红队测试跨模态安全对齐。作者要处理的缺口是:把恶意线索分到图文的固定组合,测不到多步推理里才出现的漏洞。攻击不访问梯度,只构造图文输入。

    深度解读完整解读
  7. 攻击arXiv 2504.01094

    研究者提出 Multi-AudioJail

    提出 MULTI-AUDIOJAIL,以多语多口音和声学扰动越狱音频模型

    发表
    攻击者
    黑盒
    被测模型
    Qwen2-Audio、DiVA-llama-3-v0-8b、MERaLiON-AudioLLM-Whisper-SEA-LION 等5个

    摘要黑盒多语多口音音频加声学扰动可抬高 LALM 的 JSR,文本示范防御并非在每个模型上都下降。

    深度解读完整解读
已经到底了