跳到正文
10月13日 · 周二

全部论文

找到 40篇
筛选4

攻击类型

越狱40提示注入16投毒与后门9检测规避7

攻击技术

梯度与表征优化18自动化搜索49多轮渐进26编码与混淆40角色扮演与说服20对话结构操控9推理链操控7跨模态载荷35针对防御9

影响

有害内容39

系统形态

模型与 API38

攻击者权限

黑盒26

攻击面/入口

用户输入40图像与音视频14

层

提示层38应用层2

系统组件

护栏与评审12视觉12图像生成7多模态19
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 201篇还没打标签，不在筛选结果里。
攻击类型：越狱攻击技术：编码与混淆层：提示层层：应用层清除全部

另有201篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.11766

    研究提出意图恢复率作为 LLM 安全评测的补充指标

    提出 IRIS，用意图恢复率区分遮蔽越狱下无害输出的原因

    arXiv
    2610.11766
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-4o、Claude Sonnet 4.5、Claude Opus 4.5 等6个
    摘要无害输出的证据权重取决于任务是否被恢复。

    IRIS 把意图恢复当作中间信号，用来解释意图遮蔽提示下为何没有出现有害协助。

    深度解读完整解读
  2. 评测与基准arXiv 2610.09033

    研究发布 ASRD 数据集，评测五款开源模型在非规范输入下的安全表现

    arXiv
    2610.09033
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Gemma 2 9B、Gemma 3 4B、Llama 3.1 8B 等6个
    摘要五模型、七族表面形式的四态评测里，低有害遵从不等于读懂后的安全处理。

    ASRD 用四态标签检查五个开源模型如何处理非规范表面上的有害请求。

    深度解读完整解读
  3. 攻击arXiv 2610.02302

    研究者提出意图隐藏越狱的信息论框架，分析组合式攻击

    提出组合式意图隐藏越狱，按先验后验匹配选择辅助任务

    arXiv
    2610.02302
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen3-1.7B、Qwen3-4B、Qwen3-8B 等7个
    摘要用信息论选含目标的任务组合，再看查询能否既隐藏意图又让目标被执行。

    这篇工作把组合式意图隐藏写成任务选择：有害目标必须留在 bundle 里，同时让估计的有害意图概率贴近全集先验，或降到阈值以下。

    深度解读完整解读
  5. 攻击arXiv 2609.38253

    CollageAttack：利用跨模态对齐缺陷对 T2I 模型实施空间文本组合越狱

    提出 CollageAttack，用空间文本碎片重组越狱文生图模型

    arXiv
    2609.38253
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GPT-Image-2、Doubao-Seedream-5.0-Lite、Wan2.7-Image-Pro 等5个

    摘要系统揭示 T2I 跨模态空间合成安全漏洞，证实离散无害元素可在图像层面重构有害意图并放大传播强度。

    深度解读完整解读
  6. 攻击arXiv 2609.09553

    研究：任意密文攻击前沿大模型无需微调即可越狱

    提出任意字母置换密码越狱，无需微调即可诱导有害输出

    arXiv
    2609.09553
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Claude Sonnet 4、Claude Sonnet 4.5、Gemini 3 Flash (preview) 等7个

    摘要前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。

    深度解读完整解读
  7. 攻击arXiv 2609.07216

    DIVA：利用视觉锚点对视频生成模型实施多模态越狱

    提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型

    arXiv
    2609.07216
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    Wan、CogVideoX、LTX-Video 等9个
    摘要DIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。

    DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。

    深度解读完整解读
  11. 攻击arXiv 2606.21077

    OTTER：仅替换五个 token 即可绕过 GPT 系列毒性审核

    提出 OTTER 词元替换越狱，绕过表面毒性审核诱导有害回答

    arXiv
    2606.21077
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    gpt-4-turbo、gpt-4o、gpt-4o-mini 等4个

    摘要论文展示了表面毒性与恶意意图的解耦现象，通过标准 API 实现黑盒越狱测试，并提出闭环分类器加固建议。

    深度解读完整解读
  13. 评测与基准arXiv 2606.06037

    SpeechJBB：语码转换语音下大型音频语言模型的越狱基准

    提出 SpeechJBB，评测语码转换语音下音频语言模型的越狱稳健性

    arXiv
    2606.06037
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B-Instruct、Voxtral-Small-24B 等9个
    摘要SpeechJBB 用五语语码转换语音和伪词探针评测九个 LALM，作者将越狱归为对齐失败而非听不懂。

    SpeechJBB 用合成语音测量 LALM 在五语、语码转换和局部伪词混淆下的安全对齐，并另设口语理解对照。

    深度解读完整解读
  14. 攻击arXiv 2606.01837

    论文提出 DSR 跨模态越狱框架：用良性输入诱导 MLLM 有害输出

    提出 DSR 跨模态越狱，用无害图文诱导 MLLM 生成有害图像

    arXiv
    2606.01837
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    gemini-2.5-flash-image、qwen-image-2.0、Tongyi Wanx 2.5
    摘要DSR 用无害图文诱导商业 MLLM 输出有害图像，作者称组合能力会反过来扩大攻击面。

    DSR 是一种 black-box 跨模态越狱：输入侧不放显式有害内容，而让商业 MLLM 在推理中把无害图文重组成有害图像。

    深度解读完整解读
  18. 攻击arXiv 2605.03441

    研究用数学编码绕过 LLM 安全过滤

    提出 Formal Logic 等数学编码越狱，绕过自然语言安全过滤

    arXiv
    2605.03441
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    黑盒
    被测模型
    GPT-4o-Mini、GPT-5-Mini、GPT-5 等8个
    摘要作者比较六种数学编码，称深度改写而非数学符号本身更能绕过现有安全过滤。

    作者在 black-box、只提交纯文本的设定下，比较六种数学编码能否让仍开着安全措施的模型产出有害内容。

    深度解读完整解读
  19. 攻击arXiv 2605.00583

    通过视觉模态越狱视觉语言模型

    提出四类视觉越狱，把有害意图编码进图像以绕过安全拒答

    arXiv
    2605.00583
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    GPT-5.2、Claude-Haiku-4.5、Gemini-3-Flash 等8个
    摘要四类视觉越狱在六个 VLM 上检验文本对齐能否挡住视觉意图，模型与攻击之间差异大。

    四类视觉越狱用来检验前沿 VLM 的文本安全训练能否挡住由图像传达的有害意图。。

    深度解读完整解读
加载更多