Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 18 papers
Filter2
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 305papers have no tags yet and are not included in filtered results.

Another 305papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2609.04533

    Repeat-After-Me:针对黑盒 VLM 的自适应视觉提示注入攻击

    提出 Repeat-After-Me 自适应视觉提示注入,诱导 VLM 智能体执行指定任务

    Published
    Setting
    AI Agent
    Evaluated models
    Claude-Opus-4.7, GPT-5.5, Gemini-3.1-Pro and others6

    Abstract论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入,在多款模型上诱发了工具调用与隐私泄露。

    Paper analysisRead analysis
  2. AttacksarXiv 2609.01168

    CRACK:用多智能体辩论越狱多层安全过滤的 T2I 模型

    提出 CRACK,用多智能体辩论在黑盒下越狱文生图多层安全过滤

    Published
    Attacker
    Black-box
    Evaluated models
    Stable Diffusion v1.4, SDXL, DALL·E 3 and others4
    AbstractCRACK 以分层诊断的多智能体辩论搜索多层 T2I 过滤器的联合规避区域。

    CRACK 是面向文本生成图像模型多层安全栈的黑盒越狱框架,用几何上的 Detection Surface 解释为何粗粒度反馈不够。

    Paper analysisRead analysis
  3. AttacksarXiv 2607.02961

    研究者提出信息过载方法越狱大型视觉语言模型

    提出 INFER+ 信息过载方法,越狱大型视觉语言模型

    Published
    Evaluated models
    Qwen3-VL-8B, Qwen2-VL-7B, InternVL3.5-8B and others8
    Abstract用图文过载越狱 LVLM。

    这篇工作用信息过载越狱 LVLM,而不是靠 OOD 变换隐藏意图。

    Paper analysisRead analysis
  4. AttacksarXiv 2607.21619

    ASO:用GRPO优化视觉风格放大MLLM越狱攻击

    提出 ASO,用 GRPO 优化视觉风格以放大越狱攻击

    Published
    Attacker
    Gray-box
    Evaluated models
    GPT-4.1-mini, Gemini-2.5-Flash, Qwen3-VL and others6

    Abstract论文揭示了 MLLM 的风格敏感性脆弱面,提出 ASO 框架利用强化学习优化风格触发器,有效放大了现有视觉越狱效果。

    Paper analysisRead analysis
  5. AttacksarXiv 2603.09246

    研究者提出 Reasoning-Oriented Programming,通过链式语义片段越狱大型视觉语言模型

    提出 VROP,把有害意图拆成良性视觉 gadget 越狱视觉语言模型

    Published
    Attacker
    Black-box
    Evaluated models
    GPT-4o, Claude 3.7 Sonnet, GLM-4V-Plus and others7
    AbstractVROP 以良性视觉 gadget 与控制流提示词做组合越狱。

    VROP是 black-box 多模态越狱框架:不在输入中放显式恶意触发,而把有害目标拆成语义正交的良性视觉 gadget,再用控制流提示词把合成留到后期推理。

    Paper analysisRead analysis
  6. AttacksarXiv 2603.20198

    研究者提出 MM-Plan 多模态越狱框架

    提出 MM-Plan 多模态越狱框架,自动规划多轮图像编辑以越狱视觉独占目标

    Published
    Attacker
    Black-box
    Evaluated models
    Llama-3.2-11B, InternVL3-8B, Qwen3-VL-8B and others8
    Abstract作者称全局规划能攻破对单轮攻击更稳的前沿 MLLM。

    MM-Plan 是面向 Visual Exclusivity 的 black-box 多模态红队方法,并配有人工基准 VE-Safety。

    Paper analysisRead analysis
  7. AttacksarXiv 2511.10692

    StyleBreak:利用风格化音频越狱揭示大型音频语言模型的对齐漏洞

    提出 StyleBreak 风格化音频越狱,利用语音属性绕过音频语言模型对齐

    Published
    Attacker
    Black-box
    Evaluated models
    Qwen2-Audio-7B-Instruct, MERaLiON-AudioLLM-Whisper-SEA-LION, Ultravox-v0.4.1-Llama-3.1-8B and others6
    Paper analysisRead analysis
  8. AttacksarXiv 2508.06837

    Prometheus:针对文生图扩散模型的免训练提示词窃取攻击

    提出 Prometheus,从展示图反推文生图模型的在售提示词

    Published
    Evaluated models
    Midjourney, Leonardo.ai, DALL·E and others4
    Abstract训练无关的 proxy 搜索攻击。

    Prometheus 是针对文生图市场 showcase 的训练无关提示词窃取:攻击者看不到在售文本,只用本地开源 proxy 恢复 subject 和 modifier,并希望换 subject 后风格仍在。

    Paper analysisRead analysis
  9. AttacksarXiv 2503.06223

    RedDiffuser:用强化扩散生成视觉输入审计 VLM 多模态安全失效

    提出 RedDiff,用强化扩散生成图像审计 VLM 情境安全失效

    Published
    Attacker
    Black-box
    Evaluated models
    LLaVA-1.5-7B, Gemini-1.5-flash, LLaMA-3.2-11B-Vision-Instruct
    Abstract用强化扩散生成视觉上下文,审计有害文本情境下的 VLM 安全失效。

    RedDiffuser 是黑盒审计框架:有害内容不是显式攻击指令,而是固定的部分有毒文本,再配上扩散模型生成的图像,看 VLM 的开放续写会不会变得不安全。

    Paper analysisRead analysis
  10. AttacksarXiv 2503.01839

    研究者用微调大语言模型越狱带安全护栏的文生图模型

    提出 PromptTune,微调 LLM 改写提示以越狱文生图护栏

    Published
    Evaluated models
    SDXL-Turbo, MACE, SafeGen
    AbstractLLM 改写可提高过滤器绕过率。

    PromptTune 用微调 LLM 改写提示词,攻击带安全过滤器或对齐的文生图模型。

    Paper analysisRead analysis
You have reached the end