Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 89 papers提出 Red-TTT，在攻击过程中更新攻击者实现自动化越狱
- Published
- Evaluated models
- Llama-3-8B-Instruct, gpt-oss-20b, gpt-4.1-mini and others4
提出 CodeMimicry，以结构化代码补全诱导模型生成有害内容
- Published
- Evaluated models
- GPT-4o, GPT-4.1, GPT-5-chat and others10
提出 SceneJail，利用视频情境上下文越狱视频多模态模型
- Published
- Evaluated models
- Qwen2.5-VL-7B-Instruct, Qwen2.5-VL-32B-Instruct, Qwen3-VL-8B-Instruct and others8
提出 CollageAttack，用空间文本碎片重组越狱文生图模型
- Published
- Evaluated models
- GPT-Image-2, Doubao-Seedream-5.0-Lite, Wan2.7-Image-Pro and others5
Abstract系统揭示 T2I 跨模态空间合成安全漏洞，证实离散无害元素可在图像层面重构有害意图并放大传播强度。
提出 BLINDBIAS，通过纯文本续写与前缀控制越狱黑盒模型
- Published
- Evaluated models
- GLM-5, Gemini-3.5-Flash, Qwen3-32B and others4
Abstract作者认为，隐藏数值概率并不足以消除支持重复采样和前缀续写的解码攻击面。
BLINDBIAS 是一种针对 sample-only 续写接口的 black-box 解码时越狱框架，研究没有目标数值概率时，采样能否支持逐步控制。
提出 FinRT，将消费金融自适应红队轨迹蒸馏为可复用对抗提示生成器
- Published
- Evaluated models
- Llama-3.3-70B, Llama-3.1-8B, Mixtral-8x7B and others6
AbstractFinRT 用前向失效发现加校准代理 DPO，把消费金融红队收成单次前向生成器。
FinRT 是面向消费金融的红队框架：先发现政策失效，再训练一个按政策、领域与目标行为出提示的生成器。
提出 RISE，迭代演化可复用策略对文生图模型做红队
- Published
- Evaluated models
- DALL·E 3, Nano Banana 2, GPT-Image-2 and others7
提出推理通道预填与输出前缀组合攻击以越狱推理模型
- Published
- Evaluated models
- Gemini 3 Flash Preview, DeepSeek V4 Flash, Claude Haiku 4.5
消融比较方言越狱中表层形式、文化框架与策略库的作用
- Published
- Evaluated models
- GPT-4o, DeepSeek-Reasoner, DeepSeek-Chat
提出能力洗钱攻击，拆分任务向对齐模型套取能力
- Published
- Evaluated models
- GPT-5.5, Claude Opus 4.8, Grok-4.3 and others7
Abstract作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。
提出任意字母置换密码越狱，无需微调即可诱导有害输出
- Published
- Evaluated models
- Claude Sonnet 4, Claude Sonnet 4.5, Gemini 3 Flash (preview) and others7
Abstract前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。
检验结构越狱 IICL 能否跨厂商泛化并与语言约束叠加
- Published
- Evaluated models
- gemini-2.5-flash, gemini-2.5-flash-lite
提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
- Published
- Evaluated models
- Wan, CogVideoX, LTX-Video and others9
AbstractDIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。
提出 AdvPIE，在黑盒下搜索表面无害却生成有害图像的提示
- Published
- Evaluated models
- Stable Diffusion 3.5 Large, FLUX.1-schnell, Safe-StableDiffusion 1.5 and others5
提出多轮越狱框架 BLUEPRINT，用世界观模拟与心理因素诱导有害输出
- Published
- Evaluated models
- Qwen3-Next-80B, DeepSeek-V3.2, GLM-4.7 and others6
AbstractBLUEPRINT 解耦多轮越狱策略与情境模拟，揭示任务具象化是摆脱拒绝的核心机制，为多轮安全防御提供新视角。
BLUEPRINT 是一个将因子化社会影响力策略空间与跨轮世界观模拟解耦的多轮大语言模型安全评测框架。
提出 CRACK，用多智能体辩论在黑盒下越狱文生图多层安全过滤
- Published
- Evaluated models
- Stable Diffusion v1.4, SDXL, DALL·E 3 and others4
AbstractCRACK 以分层诊断的多智能体辩论搜索多层 T2I 过滤器的联合规避区域。
CRACK 是面向文本生成图像模型多层安全栈的黑盒越狱框架，用几何上的 Detection Surface 解释为何粗粒度反馈不够。
提出 RedEvoAgent，演化攻击技能对黑盒智能体做自动红队
- Published
- Evaluated models
- MiniMax-M2.5, DeepSeek-V4-Flash, Qwen3.5-35B
AbstractRedEvoAgent 用验证棘轮演化可读攻击技能，在两种产品级 harness 上多数设置高于固定工具与红队基线。
RedEvoAgent 是面向产品级 black-box 智能体的自动红队方法，用一份可演化、人类可读的攻击技能编排多个越狱工具。。
提出 MAMJ，在元层面交替优化多模态越狱的策略提示与攻击者权重
- Published
- Evaluated models
- GPT-4o, Gemini-3-Pro-Preview, Seed 2.0
提出 JailbreakSkill，用可演化技能自动搜索并复用越狱提示
- Published
- Evaluated models
- GLM 5.2, DeepSeek-V4-Pro Preview, Llama-3.3-70B-Instruct and others8
提出 ARENA 音频红队框架，自动构造文本安全且音频接地的越狱输入
- Published
- Evaluated models
- Audio Flamingo 3, Qwen2-Audio-7B-Instruct, MiMo-Audio-7B-Instruct and others4