Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 35 papers提出 OPUR 攻击，用似然梯度优化对抗后缀越狱 LLM 智能体
- Published
- Evaluated models
- Llama-3.1-8B-Instruct, Ministral-8B-Instruct-2410
提出 ReSA，从对齐模型行为恢复安全奖励并在解码时反转
- Published
- Evaluated models
- Llama3.1-8B-Instruct, Gemma-7B-Instruct, Qwen2.5-7B-Instruct and others9
AbstractReSA 用最大熵 IRL 从对齐模型行为恢复代理安全奖励，并在解码时反转以诱导有害输出。
ReSA 是一种对抗攻击：从对齐模型的可观察行为恢复代理安全奖励，再在解码时把该奖励反过来用。。
提出 CRIME 框架，组合良性 Agent 技能诱发恶意行为
- Published
- Evaluated models
- DeepSeek-V4-Flash, GPT-4o-mini, GPT-4o and others6
Abstract良性技能经 DCA 或 ACA 组合后可产生恶意环境后果，单独审查对不上。
CRIME 把公共技能库中各自通过审查的技能配成两两组合，看联合执行能否实现指定恶意任务。。
提出 BLINDBIAS，通过纯文本续写与前缀控制越狱黑盒模型
- Published
- Evaluated models
- GLM-5, Gemini-3.5-Flash, Qwen3-32B and others4
Abstract作者认为，隐藏数值概率并不足以消除支持重复采样和前缀续写的解码攻击面。
BLINDBIAS 是一种针对 sample-only 续写接口的 black-box 解码时越狱框架，研究没有目标数值概率时，采样能否支持逐步控制。
提出推理通道预填与输出前缀组合攻击以越狱推理模型
- Published
- Evaluated models
- Gemini 3 Flash Preview, DeepSeek V4 Flash, Claude Haiku 4.5
提出能力洗钱攻击，拆分任务向对齐模型套取能力
- Published
- Evaluated models
- GPT-5.5, Claude Opus 4.8, Grok-4.3 and others7
Abstract作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。
检验结构越狱 IICL 能否跨厂商泛化并与语言约束叠加
- Published
- Evaluated models
- gemini-2.5-flash, gemini-2.5-flash-lite
提出广度优先后缀搜索 BOSS，改进 GCG 越狱优化
- Published
- Evaluated models
- Llama-2-7B-Chat, Yi-1.5-9B-Chat, Qwen2-7B-Instruct and others8
AbstractBOSS 把 GCG 类优化从单条深搜索改为多条短轨迹加源侧诊断。
BOSS 是插在 GCG 类离散 suffix 优化上的搜索框架：局部梯度更新不变，变的是固定预算花在深度还是广度。
提出 DIVA，利用跨步条件传播对离散扩散视觉语言模型实施视觉越狱
- Published
- Evaluated models
- LLaDA-V, MMaDA, LLaDA2.0-Uni
提出 SN-Guided Diffusion，利用安全神经元实现离线越狱
- Published
- Evaluated models
- Qwen2.5-7B-Instruct, LLaDA-8B-Instruct, Dream-Instruct-7B and others15
Abstract论文揭示了扩散语言模型对自回归安全神经元的继承性，并提出纯离线黑盒越狱框架 SN-Guided Diffusion。
论文系统评估了扩散大语言模型（DLLM）在安全对齐中的双重角色——既作为白盒攻击目标，又作为黑盒越狱生成的对抗工具。
提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景
- Published
- Evaluated models
- Qwen3.5-9B, Llama-3.1-8B, Ministral-3-8B and others6
Abstract该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。
提出 SMT 框架，用模拟审核轨迹越狱函数调用 LLM
- Published
- Evaluated models
- GPT-4o, GPT-5.4, Qwen3-Max and others7
提出 OTTER 词元替换越狱，绕过表面毒性审核诱导有害回答
- Published
- Evaluated models
- gpt-4-turbo, gpt-4o, gpt-4o-mini and others4
Abstract论文展示了表面毒性与恶意意图的解耦现象，通过标准 API 实现黑盒越狱测试，并提出闭环分类器加固建议。
提出 CFD 跨会话分解攻击，利用工件来源缺口绕过工具型 Agent 的本地检查
- Published
- Evaluated models
- GPT-4.1, GPT-5-nano, Claude-3.5-Sonnet and others6
AbstractCFD 用无指令 artifact 把越狱拆到跨会话。
CFD针对工具型 LLM 智能体：利用 artifact 来源不被跟踪这一部署失败模式，把有害目标拆开后延迟组合。
提出 SlotGCG，按注意力选槽插入对抗 token 以越狱指令模型
- Published
- Evaluated models
- LLAMA2-7B-CHAT, LLAMA2-13B-CHAT, LLAMA-3.1-8B-INSTRUCT and others10
提出 CodecAttack，在编解码器隐空间构造可穿透有损压缩的对抗音频
- Published
- Evaluated models
- Qwen2-Audio-7B-Instruct, Audio Flamingo 3, Qwen2.5-Omni
提出 GPO-V，用全局概率优化的视觉扰动越狱扩散视觉语言模型
- Published
- Evaluated models
- LLaDA-V, LaViDA
Abstract作者用视觉扰动改 dVLM 的全局生成概率，以绕过两类拒绝。
GPO-V 把越狱从“开头必须顺从”改成“整段去噪概率朝肯定方向走”。。
提出 Misrouter，借 MoE 路由优化仅输入前缀并迁移攻击
- Published
- Evaluated models
- GPT-4o mini, Qwen-Plus, Phi-4 and others18
提出 PEO，直接优化原提示词嵌入实现白盒越狱
- Published
- Evaluated models
- Vicuna-7B-v1.3, Llama-2-7B-Chat, Qwen3-4B-Instruct and others4
AbstractPEO 原位优化提示词嵌入、多轮只重攻失败样本。
PEO是一种不追加对抗 token 的 white-box 越狱：直接改已有提示词嵌入，并只对未成功样本更换续写目标再优化。
提出 TriageFuzz，用替代模型定位敏感片段做查询高效越狱
- Published
- Evaluated models
- Gemma-7B-Instruct, Gemma2-9B-Instruct, LLaMA3-8B-Instruct and others9