跳到正文
10月13日 · 周二

越狱与攻击 · 论文

找到 41篇
筛选3

攻击类型

越狱41

攻击技术

梯度与表征优化20自动化搜索46多轮渐进22编码与混淆34角色扮演与说服18对话结构操控7推理链操控7跨模态载荷34针对防御10

影响

有害内容39

系统形态

模型与 API38AI Agent3

攻击者权限

黑盒33

攻击面/入口

用户输入41图像与音视频14

层

提示层38应用层3

系统组件

护栏与评审13推理链3视觉12图像生成7多模态18
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。
攻击类型：越狱攻击技术：编码与混淆攻击技术：对话结构操控话题：越狱与攻击清除全部
  1. 攻击arXiv 2610.02302

    研究者提出意图隐藏越狱的信息论框架，分析组合式攻击

    提出组合式意图隐藏越狱，按先验后验匹配选择辅助任务

    arXiv
    2610.02302
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen3-1.7B、Qwen3-4B、Qwen3-8B 等7个
    摘要用信息论选含目标的任务组合，再看查询能否既隐藏意图又让目标被执行。

    这篇工作把组合式意图隐藏写成任务选择：有害目标必须留在 bundle 里，同时让估计的有害意图概率贴近全集先验，或降到阈值以下。

    深度解读完整解读
  3. 攻击arXiv 2609.38253

    CollageAttack：利用跨模态对齐缺陷对 T2I 模型实施空间文本组合越狱

    提出 CollageAttack，用空间文本碎片重组越狱文生图模型

    arXiv
    2609.38253
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GPT-Image-2、Doubao-Seedream-5.0-Lite、Wan2.7-Image-Pro 等5个

    摘要系统揭示 T2I 跨模态空间合成安全漏洞，证实离散无害元素可在图像层面重构有害意图并放大传播强度。

    深度解读完整解读
  4. 攻击arXiv 2609.36956

    研究者提出 Controlled Decoding Attacks，通过纯文本接口越狱黑盒 LLM

    提出 BLINDBIAS，通过纯文本续写与前缀控制越狱黑盒模型

    arXiv
    2609.36956
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GLM-5、Gemini-3.5-Flash、Qwen3-32B 等4个
    摘要作者认为，隐藏数值概率并不足以消除支持重复采样和前缀续写的解码攻击面。

    BLINDBIAS 是一种针对 sample-only 续写接口的 black-box 解码时越狱框架，研究没有目标数值概率时，采样能否支持逐步控制。

    深度解读完整解读
  6. 攻击arXiv 2609.09553

    研究：任意密文攻击前沿大模型无需微调即可越狱

    提出任意字母置换密码越狱，无需微调即可诱导有害输出

    arXiv
    2609.09553
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Claude Sonnet 4、Claude Sonnet 4.5、Gemini 3 Flash (preview) 等7个

    摘要前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。

    深度解读完整解读
  8. 攻击arXiv 2609.07216

    DIVA：利用视觉锚点对视频生成模型实施多模态越狱

    提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型

    arXiv
    2609.07216
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Wan、CogVideoX、LTX-Video 等9个
    摘要DIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。

    DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。

    深度解读完整解读
  12. 攻击arXiv 2606.21077

    OTTER：仅替换五个 token 即可绕过 GPT 系列毒性审核

    提出 OTTER 词元替换越狱，绕过表面毒性审核诱导有害回答

    arXiv
    2606.21077
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    gpt-4-turbo、gpt-4o、gpt-4o-mini 等4个

    摘要论文展示了表面毒性与恶意意图的解耦现象，通过标准 API 实现黑盒越狱测试，并提出闭环分类器加固建议。

    深度解读完整解读
  14. 攻击arXiv 2606.01837

    论文提出 DSR 跨模态越狱框架：用良性输入诱导 MLLM 有害输出

    提出 DSR 跨模态越狱，用无害图文诱导 MLLM 生成有害图像

    arXiv
    2606.01837
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    gemini-2.5-flash-image、qwen-image-2.0、Tongyi Wanx 2.5
    摘要DSR 用无害图文诱导商业 MLLM 输出有害图像，作者称组合能力会反过来扩大攻击面。

    DSR 是一种 black-box 跨模态越狱：输入侧不放显式有害内容，而让商业 MLLM 在推理中把无害图文重组成有害图像。

    深度解读完整解读
  18. 攻击arXiv 2605.03441

    研究用数学编码绕过 LLM 安全过滤

    提出 Formal Logic 等数学编码越狱，绕过自然语言安全过滤

    arXiv
    2605.03441
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GPT-4o-Mini、GPT-5-Mini、GPT-5 等8个
    摘要作者比较六种数学编码，称深度改写而非数学符号本身更能绕过现有安全过滤。

    作者在 black-box、只提交纯文本的设定下，比较六种数学编码能否让仍开着安全措施的模型产出有害内容。

    深度解读完整解读
  19. 攻击arXiv 2605.00583

    通过视觉模态越狱视觉语言模型

    提出四类视觉越狱，把有害意图编码进图像以绕过安全拒答

    arXiv
    2605.00583
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-5.2、Claude-Haiku-4.5、Gemini-3-Flash 等8个
    摘要四类视觉越狱在六个 VLM 上检验文本对齐能否挡住视觉意图，模型与攻击之间差异大。

    四类视觉越狱用来检验前沿 VLM 的文本安全训练能否挡住由图像传达的有害意图。。

    深度解读完整解读
加载更多