Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 29 papers消融比较方言越狱中表层形式、文化框架与策略库的作用
- Published
- Evaluated models
- GPT-4o, DeepSeek-Reasoner, DeepSeek-Chat
提出 SAST-IR，用有状态攻击者迭代说服无记忆模型接受反事实
- Published
- Evaluated models
- DeepSeek-Chat
提出 MIPC 与 CFA，观察模型自拟测验后接受开发者身份
- Published
- Evaluated models
- ChatGPT, Claude, Qwen3.7-Plus and others5
Abstract自拟测验可造成对话层虚假认证，但所测授权边界并未因此改变。
这项工作把“模型自己出题、自己批改、再宣布身份已核验”定义成对话层认证失败，并与后端提权分开。
提出多轮越狱框架 BLUEPRINT，用世界观模拟与心理因素诱导有害输出
- Published
- Evaluated models
- Qwen3-Next-80B, DeepSeek-V3.2, GLM-4.7 and others6
AbstractBLUEPRINT 解耦多轮越狱策略与情境模拟，揭示任务具象化是摆脱拒绝的核心机制，为多轮安全防御提供新视角。
BLUEPRINT 是一个将因子化社会影响力策略空间与跨轮世界观模拟解耦的多轮大语言模型安全评测框架。
提出广度优先后缀搜索 BOSS，改进 GCG 越狱优化
- Published
- Evaluated models
- Llama-2-7B-Chat, Yi-1.5-9B-Chat, Qwen2-7B-Instruct and others8
AbstractBOSS 把 GCG 类优化从单条深搜索改为多条短轨迹加源侧诊断。
BOSS 是插在 GCG 类离散 suffix 优化上的搜索框架：局部梯度更新不变，变的是固定预算花在深度还是广度。
提出 DIVA，利用跨步条件传播对离散扩散视觉语言模型实施视觉越狱
- Published
- Evaluated models
- LLaDA-V, MMaDA, LLaDA2.0-Uni
提出 SN-Guided Diffusion，利用安全神经元实现离线越狱
- Published
- Evaluated models
- Qwen2.5-7B-Instruct, LLaDA-8B-Instruct, Dream-Instruct-7B and others15
Abstract论文揭示了扩散语言模型对自回归安全神经元的继承性，并提出纯离线黑盒越狱框架 SN-Guided Diffusion。
论文系统评估了扩散大语言模型（DLLM）在安全对齐中的双重角色——既作为白盒攻击目标，又作为黑盒越狱生成的对抗工具。
提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景
- Published
- Evaluated models
- Qwen3.5-9B, Llama-3.1-8B, Ministral-3-8B and others6
Abstract该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。
提出 SlotGCG，按注意力选槽插入对抗 token 以越狱指令模型
- Published
- Evaluated models
- LLAMA2-7B-CHAT, LLAMA2-13B-CHAT, LLAMA-3.1-8B-INSTRUCT and others10
提出 Persona Attack，分步写入对话记忆指令以越狱
- Published
- Evaluated models
- GPT-4o, Llama-3.2-3B-Instruct, ChatGPT-4o and others5
提出 CodecAttack，在编解码器隐空间构造可穿透有损压缩的对抗音频
- Published
- Evaluated models
- Qwen2-Audio-7B-Instruct, Audio Flamingo 3, Qwen2.5-Omni
提出 GPO-V，用全局概率优化的视觉扰动越狱扩散视觉语言模型
- Published
- Evaluated models
- LLaDA-V, LaViDA
Abstract作者用视觉扰动改 dVLM 的全局生成概率，以绕过两类拒绝。
GPO-V 把越狱从“开头必须顺从”改成“整段去噪概率朝肯定方向走”。。
提出 Misrouter，借 MoE 路由优化仅输入前缀并迁移攻击
- Published
- Evaluated models
- GPT-4o mini, Qwen-Plus, Phi-4 and others18
提出 PEO，直接优化原提示词嵌入实现白盒越狱
- Published
- Evaluated models
- Vicuna-7B-v1.3, Llama-2-7B-Chat, Qwen3-4B-Instruct and others4
AbstractPEO 原位优化提示词嵌入、多轮只重攻失败样本。
PEO是一种不追加对抗 token 的 white-box 越狱：直接改已有提示词嵌入，并只对未成功样本更换续写目标再优化。
Propose PCSA, which uses persona-based multi-turn simulation of counseling clients to induce harmful empathetic responses.
- Published
- Evaluated models
- Llama-3.1-8B, Llama-3.1-70B, GPT-3.5-Turbo and others8
Proposes composite jailbreaks, stacking contrast structure, authoritative persona, and self-evaluation to saturate the instruction hierarchy
- Published
- Evaluated models
- OpenAI gpt-oss-20b
提出 S2C 越狱，用情境改写、切分和线索伪装推迟有害意图整合
- Published
- Evaluated models
- Llama3.3-70B-Instruct, DeepSeek-r1, DeepSeek-v3 and others16
提出 STAR 多轮角色扮演框架，利用对话状态演化绕过安全对齐
- Published
- Evaluated models
- GPT-4o, Claude 3.5 Sonnet, Gemini 2.0-Flash and others5
比较 GCG 对抗 token 作为前缀与后缀的越狱效果
- Published
- Evaluated models
- deepseek-llm-7b-chat, Qwen2.5-7B-Instruct, Mistral-7B-Instruct-v0.3 and others5
提出黑盒 context nesting，用结构化补全任务嵌套有害请求越狱扩散 LLM
- Published
- Evaluated models
- LLaDA-8B-Instruct, LLaDA-1.5, Dream-v0-Instruct-7B and others5
Abstract去噪抑制多种越狱。
作者把 D-LLM 相对 AR-LLM 越狱的稳健性称为 safety blessing，并把 context nesting 当作它的 black-box 失效方式。