Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Defenses and guardrails · Papers
Found 6 papers提出 Safety-Aware Pruning，缓解视觉 token 剪枝放大的多模态越狱
- Published
- Evaluated models
- LLaVA-1.5-7B
Abstract剪枝去掉背景 token 后注意力塌向恶意前景。
这篇工作评估视觉 token 剪枝如何改变 VLM 在多模态越狱下的行为，并给出推理时防御 SAP。
测量有损投机解码的安全代价，并提出 SecureSD 收紧早期验证
- Published
- Evaluated models
- Qwen3-8B, Qwen3-32B, Llama-3.1-8B-Instruct and others6
Abstract有损推测解码的早期偏离更快抬高越狱与注入风险。
作者研究有损推测解码在换取速度时，是否会比效用更快地损害越狱与提示注入防护，并给出按位置校正的 SecureSD。
提出 Persona Guardrail，强制客服智能体守住功能边界
- Published
- Evaluated models
- Qwen3-30B-A3B, Qwen3-VL-30B, Qwen3-8B and others5
AbstractPersona Guardrail 用功能边界做同步输入输出校验，并在 PAGE 与生产延迟预算下给出评测。
Persona Guardrail 是客服向智能体的同步运行时防御：先写明功能边界，再决定放行或拦截，而不是只检测某一攻击类。
提出 DART，用去噪表征转移检测多轮智能体攻击并注入提醒
- Published
- Evaluated models
- Qwen3-8B, Qwen3-14B, Qwen3-32B and others6
提出 CodeSpear 越狱，借语法约束解码生成恶意代码，并给出 CodeShield 防御
- Published
- Evaluated models
- Qwen2.5-Coder-7B, Qwen2.5-Coder-32B, Qwen2.5-7B and others10
Abstract论文发现语法约束解码会破坏自然语言安全对齐，提出 CodeSpear 越狱攻击与基于蜜罐代码对齐的 CodeShield 防御。
提出 NeuroFilter，用激活探针过滤智能体多轮隐私攻击
- Published
- Evaluated models
- GPT-OSS 20B, Qwen 2.5 32B Instruct, Llama 3.3 70B and others8
You have reached the end