Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 8 papers提出 PEV 攻击，在输入嵌入上加高斯噪声越狱开源模型
- Published
- Evaluated models
- Llama-3.1-8B-Instruct, Qwen2.5-1.5B-Instruct, Phi-4-mini-3.8B and others6
AbstractPEV 用 embedding 高斯噪声，在六个模型上越狱 JailbreakBench 全部提示。
PEV 是对 open-weight LLM 的 embedding 噪声越狱。
提出 ReSA，从对齐模型行为恢复安全奖励并在解码时反转
- Published
- Evaluated models
- Llama3.1-8B-Instruct, Gemma-7B-Instruct, Qwen2.5-7B-Instruct and others9
AbstractReSA 用最大熵 IRL 从对齐模型行为恢复代理安全奖励，并在解码时反转以诱导有害输出。
ReSA 是一种对抗攻击：从对齐模型的可观察行为恢复代理安全奖励，再在解码时把该奖励反过来用。。
提出 CodeSpear 越狱，借语法约束解码生成恶意代码，并给出 CodeShield 防御
- Published
- Evaluated models
- Qwen2.5-Coder-7B, Qwen2.5-Coder-32B, Qwen2.5-7B and others10
Abstract论文发现语法约束解码会破坏自然语言安全对齐，提出 CodeSpear 越狱攻击与基于蜜罐代码对齐的 CodeShield 防御。
提出 HMNS，通过注意力头掩码与零空间注入实现机制级越狱
- Published
- Evaluated models
- LLaMA-2-7B-Chat, Phi-3-Medium-4K-Instruct, LLaMA-3.1-70B and others6
提出 ShallowJail，在推理时用转向向量改写隐藏状态实现越狱
- Published
- Evaluated models
- Qwen3-4B-Instruct-2507, Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct
提出 Gradient Shift 推理时聚合，把对齐模型拉回被抑制行为
- Published
- Evaluated models
- Llama-3.3-70B-Instruct, gpt-oss-120b, ethz-spylab–Llama-3.1-70B-Instruct refuse math
Abstract用三个模型的下一 token 分布做 Gradient Shift，在推理时恢复对齐抑制的行为。
把推理时越狱写成三个预测的聚合：对齐对下一 token 的影响被当作预对齐分布上的误校准，Gradient Shift 用弱模型对的梯度差把强对齐目标拉回去。
AttacksarXiv 2509.22067· 提出激活转向越狱，用随机向量在推理时绕过安全拒答
- Published
- Evaluated models
- Llama3.1-8B, Llama3.1-70B, Qwen2.5-3B and others8
Abstract作者称激活转向会系统性破坏 LLM 对齐，良性特征与随机向量均能诱发有害合规，聚合随机向量可构建通用攻击。
AttacksarXiv 2508.10029· 提出 Latent Fusion Jailbreak，插值有害与无害隐藏状态实施白盒越狱
- Published
- Evaluated models
- Vicuna-7B-v1.5, LLaMA-2-7B-Chat, Guanaco-7B and others5
You have reached the end