事件历史事件
SADDER:文本扩散模型安全感知去噪防御方法
先了解这件事
AI 综述
2026年10月13日发布的 arXiv 论文提出 SADDER,改进免训练安全引导框架 Safety-Aware Denoiser(SAD):在嵌入空间为每个 token 位置提取安全信号,据此门控 SAD 更新规则,推理时优先修正不安全 token,并推导出修正后去噪器精确对应的逐位置目标分布。该方法在 Masked Diffusion Language Models 与 Uniform-State Diffusion Models 的不安全续写和越狱设置中进行了评测。
AI 根据报道生成 · 29 天前更新
走势与进展
每小时关注度
现在 23,24 小时 0%·峰值 23(11月6日 03:00)
11月7日11月8日11月9日11月10日11月11日11月12日现在 23
相关研究
这件事的论文
- SADDER:面向文本扩散模型的安全感知去噪与方向嵌入修正
arXiv · 2026-10-13 · 深度解读
后续时间线
10月13日
- arXiv:越狱、提示注入、投毒与防御SADDER:面向文本扩散模型的安全感知去噪与方向嵌入修正
SADDER 改进了免训练安全引导框架 Safety-Aware Denoiser(SAD):在嵌入空间为每个 token 位置提取安全信号,用它门控 SAD 更新规则,推理时优先修正不安全 token,并推导出修正后去噪器精确对应的逐位置目标分布。在 Masked Diffusion Language Models 与 Uniform-State Diffusion Models 的不安全续写和越狱设置中,该方法在安全、生成质量与推理成本之间取得比现有方法更好的平衡。