跳到正文
10月12日 · 周一

全部论文

找到 25篇

另有233篇论文还没打上分类标签,暂不在筛选结果里。

  1. 攻击arXiv 2609.38253

    CollageAttack:利用跨模态对齐缺陷对 T2I 模型实施空间文本组合越狱

    提出 CollageAttack,用空间文本碎片重组越狱文生图模型

    发表
    攻击者
    黑盒
    被测模型
    GPT-Image-2、Doubao-Seedream-5.0-Lite、Wan2.7-Image-Pro 等5个

    摘要系统揭示 T2I 跨模态空间合成安全漏洞,证实离散无害元素可在图像层面重构有害意图并放大传播强度。

    深度解读完整解读
  2. 评测与基准arXiv 2609.35912

    MMSkillRisk:多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

    提出 MMSkillRisk 基准,评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

    发表
    被测模型
    GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等6个

    摘要论文提出 MMSkillRisk 基准与 NCVA 攻击,揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。

    深度解读完整解读
  3. 攻击arXiv 2609.09553

    研究:任意密文攻击前沿大模型无需微调即可越狱

    提出任意字母置换密码越狱,无需微调即可诱导有害输出

    发表
    攻击者
    黑盒
    被测模型
    Claude Sonnet 4、Claude Sonnet 4.5、Gemini 3 Flash (preview) 等7个

    摘要前沿大模型无需微调即可通过提示词学会字母置换密码,进而绕过分类器与对齐,作者呼吁关注能力提升带来的安全风险。

    深度解读完整解读
  4. 攻击arXiv 2609.07216

    DIVA:利用视觉锚点对视频生成模型实施多模态越狱

    提出 DIVA,将有害意图拆成视觉锚点与运动文本以越狱视频生成模型

    发表
    攻击者
    黑盒
    被测模型
    Wan、CogVideoX、LTX-Video 等9个
    摘要DIVA 用视觉锚点抑制语义漂移做视频越狱,并给出多条件安全基准 TI2VSafetyBench。

    DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱:用一致性机制本身堵住语义漂移这条安全逃逸路径。。

    深度解读完整解读
  5. SinoGlyphBench:中文字形混淆下语言模型审核的诊断基准

    提出 SinoGlyphBench,用配对字形混淆诊断中文审核稳定性

    发表
    被测模型
    GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等12个
    摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报,全文扰动最重。

    SinoGlyphBench是一个配对诊断基准,用来看内容审核在可还原的中文字形混淆下是否还保持原决定。

    深度解读完整解读
  6. 攻击arXiv 2607.00422

    KidnapRAG:黑盒投毒攻击劫持 Agentic RAG 的推理链

    提出 KidnapRAG,用投毒文档黑盒劫持 Agentic RAG 的推理链

    发表
    场景
    AI Agent
    被测模型
    Qwen2.5-32B-Instruct、Llama-3.3-70B-Instruct、QwQ-32B 等5个
    摘要顺序投毒可把多步推理拖向指定应答,作者称关键在持续引导而非单次注入。

    KidnapRAG 是针对 Agentic RAG 的 black-box 语料投毒:攻击者不能访问模型、提示词、检索器或私有轨迹,只能发布可能被检索的文档,并利用公开界面上的推理与搜索查询。

    深度解读完整解读
  7. SpeechJBB:语码转换语音下大型音频语言模型的越狱基准

    提出 SpeechJBB,评测语码转换语音下音频语言模型的越狱稳健性

    发表
    被测模型
    Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B-Instruct、Voxtral-Small-24B 等9个
    摘要SpeechJBB 用五语语码转换语音和伪词探针评测九个 LALM,作者将越狱归为对齐失败而非听不懂。

    SpeechJBB 用合成语音测量 LALM 在五语、语码转换和局部伪词混淆下的安全对齐,并另设口语理解对照。

    深度解读完整解读
  8. 攻击arXiv 2606.01837

    论文提出 DSR 跨模态越狱框架:用良性输入诱导 MLLM 有害输出

    提出 DSR 跨模态越狱,用无害图文诱导 MLLM 生成有害图像

    发表
    攻击者
    黑盒
    被测模型
    gemini-2.5-flash-image、qwen-image-2.0、Tongyi Wanx 2.5
    摘要DSR 用无害图文诱导商业 MLLM 输出有害图像,作者称组合能力会反过来扩大攻击面。

    DSR 是一种 black-box 跨模态越狱:输入侧不放显式有害内容,而让商业 MLLM 在推理中把无害图文重组成有害图像。

    深度解读完整解读
  9. 攻击arXiv 2605.00583

    通过视觉模态越狱视觉语言模型

    提出四类视觉越狱,把有害意图编码进图像以绕过安全拒答

    发表
    被测模型
    GPT-5.2、Claude-Haiku-4.5、Gemini-3-Flash 等8个
    摘要四类视觉越狱在六个 VLM 上检验文本对齐能否挡住视觉意图,模型与攻击之间差异大。

    四类视觉越狱用来检验前沿 VLM 的文本安全训练能否挡住由图像传达的有害意图。。

    深度解读完整解读
  10. 攻击arXiv 2603.10091

    多流扰动攻击:通过并发任务干扰突破思考型 LLM 的安全对齐

    提出多流扰动攻击,交织有害与良性任务绕过思考型 LLM 安全对齐

    发表
    被测模型
    Qwen3 1.7B、Qwen3 4B、Qwen3 8B 等11个
    摘要多流扰动用任务交织测试 thinking 模式,作者称它同时冲击内容安全与推理稳定性。

    多流扰动攻击把有害任务与良性任务织进同一提示词,测试 thinking 模式的内容安全与推理稳定性。作者认为,交织多任务会拉长思考,使安全检测面对被打散的有害意图,并可能把推理用于合理化,或陷入崩溃与重复。方法不访问梯度。

    深度解读完整解读
  11. 攻击arXiv 2603.07590

    模型作为乐高搭建者:用语义蓝图从无害积木拼装恶意

    提出 StructAttack,用结构图把无害语义槽诱导视觉模型拼成恶意内容

    发表
    攻击者
    黑盒
    被测模型
    GPT-4o (1120)、Gemini-2.0-Flash (001)、Gemini-2.5-Flash 等6个
    摘要StructAttack 把有害查询拆成无害槽并画进结构图,在黑盒单次查询下诱导 LVLM 填出有害内容。

    StructAttack 是针对 LVLM 的黑盒、单次查询越狱:把有害指令拆成单独看似无害的槽,画进结构图,再让模型把槽拼回有害内容。。

    深度解读完整解读
  12. 攻击arXiv 2603.07028

    两帧即可:针对文本到视频模型越狱的时序攻击

    提出 TFM,用起止帧与隐式替换越狱文生视频模型

    发表
    攻击者
    黑盒
    被测模型
    Pixverse V5、Hailuo 02、Kling 2.1 Master 等4个
    摘要TFM 先抽起止帧再做隐式替换。

    TFM 是面向文生视频的严格黑盒提示越狱,利用模型对未写明中间过程的时间补全。

    深度解读完整解读
  13. 攻击arXiv 2602.18514

    招聘中的特洛伊木马:标准模型与推理模型间接提示注入的红队测试案例研究

    用简历中的不可见指令做间接提示注入,操纵招聘推荐

    发表
    被测模型
    Qwen 3 30B A3B Instruct 2507、Qwen 3 30B A3B Thinking 2507

    摘要作者称推理在简单注入下会帮攻击圆谎,在不合逻辑的复杂注入下又会把欺骗漏出来。

    深度解读完整解读
  14. 攻击arXiv 2602.10148

    红队多模态推理:跨模态纠缠攻击越狱视觉语言模型

    提出 COMET 跨模态纠缠攻击,越狱视觉语言模型

    发表
    攻击者
    黑盒
    被测模型
    GPT-4.1、GPT-4.1-mini、Gemini-2.5-Flash 等9个
    摘要COMET 做黑盒跨模态纠缠越狱。

    COMET 是面向具备多模态推理的 VLM 的黑盒越狱,用来红队测试跨模态安全对齐。作者要处理的缺口是:把恶意线索分到图文的固定组合,测不到多步推理里才出现的漏洞。攻击不访问梯度,只构造图文输入。

    深度解读完整解读
  15. 攻击arXiv 2601.15698

    超越视觉安全:用语义无关输入越狱多模态大语言模型生成有害图像

    提出 BVS 图文越狱,用中和拼接图和诱导提示词让模型生成有害图像

    发表
    被测模型
    GPT-5 (12 January 2026 release)、Gemini 1.5 Flash (15 January 2026 release)
    摘要BVS 以重建后再生成诱导有害图像。

    BVS 用图文对诱导 MLLM 生成有害图像。作者认为,相对文本越狱和单模态图像诱导,视觉生成的安全审查仍不充分。

    深度解读完整解读