Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Defenses and guardrails · Papers
Found 11 papers提出 LADE，用首 token 暗知识在生成前过滤越狱查询
- Published
- Evaluated models
- Llama-2-7B-Chat, Llama-3-8B-Instruct, Qwen2-7B-Instruct and others13
Abstract作者用 LADE 在生成前过滤有害查询，并称八个模型中六个的 Held-out 平均最好。
LADE 是一种只读首 token 输出概率的防御，用来在生成前挡下可能引出有害回复的查询。
提出审计感知遗忘框架 AVCE，从文本与视觉通路擦除扩散模型概念
- Published
- Evaluated models
- Stable Diffusion XL (SDXL), Stable Diffusion v1.5 (SD v1.5), Flux 1.0
AbstractAVCE 在审计锚点上改两条注意力通路。
AVCE 是面向扩散模型的概念擦除方法，要让擦除经得起绕过文本条件的潜空间审计，而不只是挡住对抗提示词。
提出生成时防御 SENTINEL，匹配输入输出以抽出越狱意图并停写
- Published
- Evaluated models
- Llama2-7B, Llama3-8B, Mistral-7B-v0.2 and others6
提出 Target-free LAT，用无目标多方向潜干预做对抗安全对齐以抵御越狱
- Published
- Evaluated models
- Qwen2.5-7B-Instruct, Llama-3-8B-Instruct, Mistral-7B-Instruct-v0.2
AbstractTarget-free LAT 用无目标多方向潜干预扩大行为覆盖，作者称能提高越狱鲁棒性并保住效用。
Target-free LAT 是一种不监督有害输出的潜空间对抗对齐。它要处理的问题是：现有 LAT 每步大多只造一种有害行为，对不上真实越狱里的直接遵从、角色扮演、编码和多语言等模式。
提出收缩约束 SSM 安全头，认证嵌入扰动并检测越狱
- Published
- Evaluated models
- ToySSMClassifier, S4 safety head
Abstract收缩给出玩具 LTI 的有界认证。
给 SSM 安全头一个收缩条件，并在越狱检测上使用收缩正则的 S4 头。。
提出 AEGIS，用中层内部信号选择性激活后层适配器拦截音频越狱
- Published
- Evaluated models
- Qwen2-Audio-7B, VITA-1.5, Ultravox v0.5 and others6
提出 PALS，用潜空间平滑防御全双工语音对话的对抗扰动
- Published
- Evaluated models
- Moshi-style agent
提出 SPARK，在预填充阶段修复多模态 KV 记忆以防御视觉语言模型越狱
- Published
- Evaluated models
- LLaVA-OneVision-7B, Chameleon-7B, Qwen2-VL-7B and others4
提出 ReSO ，对齐潜在道德表征以提升越狱条件下的安全泛化
- Published
- Evaluated models
- Qwen3-8B, Qwen3-14B, Qwen3-32B and others17
AbstractReSO 重组道德分类的潜在关系。
ReSO 把对齐目标从偏好回答改成道德分类的潜在关系。。
提出 SEAL，在 MoE 共享专家上做 DPO-LoRA 对齐以抵御越狱与权重篡改
- Published
- Evaluated models
- Qwen1.5-MoE-A2.7B, DeepSeekMoE-16B, GLM-4.7-Flash and others4
AbstractSEAL 把 DPO-LoRA 限制在混合 MoE 共享专家上，SEAL++再保护已有安全神经元方向。
SEAL是面向混合 MoE 的训练时防御：只对齐始终执行的共享专家，使安全不依赖路由器是否把 token 送到安全专家。
提出路由感知安全对齐 RASA，只微调越狱激活的专家并约束路由
- Published
- Evaluated models
- OLMoE-1B-7B, Qwen3-30B-A3B, Mixtral-8x7B
AbstractRASA 以专家级修复和路由一致性约束，针对 MoE 安全对齐捷径。
RASA 是面向 MoE 的路由感知、专家级安全对齐框架，用来处理全参数微调可能走的对齐捷径。
You have reached the end