Decoupled Safety Control(DSC):面向免训练安全引导的安全控制算法
Decoupled Safety Control: A Safety-Control Algorithm for Training-Free Safety Guidance
DSC把安全引导改成按当前状态路由;SD-v1.4的MMA-Diffusion上SLD+DSC ASR为0.169。
开源文生图扩散模型在采样中仍可能产出不安全内容,并易受对抗提示词影响。
- 文生图扩散模型仍会生成不安全内容,开源模型也易受对抗提示词影响。训练无关引导常把避开目标、当前信号、干预构造和停止时机绑在同一不安全条件上;语义纠缠时可能残留风险或损伤质量与提示词保真。
- DSC不改基座权重。每步从当前去噪状态提取证据,估计抑制、平衡、释放三条路线的控制状态并选择路线,再构造更新,用强度系数和释放系数执行。实例化在SLD与SAFREE上。
- SD-v1.4、MMA-Diffusion上SLD+DSC的ASR为0.169,SAFREE+DSC为0.167,低于原safeguard与SGF。CoPro平均IP为0.131与0.088。作者称FID相对SGF更好。
- 作者称评测使用已发布提示词集,自动评估器辅以人工标注,不能完全覆盖全部部署设置;安全机制仍可能被探测或绕过。实验骨干为SD-v1.4与SD-v3,DSC接在SLD与SAFREE上。
- 威胁模型
- 开源文生图扩散模型在采样中仍可能产出不安全内容,并易受对抗提示词影响。DSC不改权重,在已有training-free safeguard的去噪步上介入;c−表示unsafe concept、unsafe subspace或unsafe reference。
- 被测模型
- Stable Diffusion v1.4 (SD-v1.4)SD-v3 (SD3-medium)
- 基准
- Ring-A-BellUnlearnDiffMMA-DiffusionCOCO-30KCoProCOCO-3K
- 指标
- ASRTRIPFIDCLIP score
Decoupled Safety Control(DSC)是一种面向免训练安全引导的插件式安全控制算法,将干预改由当前生成状态决定。它针对现有耦合安全控制链在有害与良性语义纠缠时易残留不安全内容或损害良性生成质量的问题,在标准安全基准上提升了代表性 latent-space 与 text-space 防护,更强抑制不安全内容,同时保持良性生成质量与高效推理。
深度解读
这篇论文试图解决什么问题?
训练无关安全引导把多种控制职责绑在同一不安全条件上,DSC改为按当前生成状态干预。
训练无关安全引导常把避开目标、当前信号、干预构造和停止时机绑在同一不安全条件上;语义纠缠时容易残留风险或损伤良性生成。
- 场景: 作者称扩散模型文生图能力强,但仍会生成不安全内容,开源模型仍易受对抗提示词影响(Section 1)。改权重的方法需要额外优化或直接改参数,并可能降低良性生成质量。
- 现有训练无关方法的不足: SLD、SAFREE、Safe Denoiser、SGF 等干预位点不同,但作者称许多 safeguard 仍由同一 unsafe condition 同时完成上述四件事。因素显式且与该条件对齐时可以有效;有害与良性语义在当前轨迹纠缠时,同一条件不足以决定保留什么、用哪种干预、干预持续多久。
- 作者的判断: 干预可能过弱而留下残留不安全内容,或过宽而损害良性质量或提示词保真。作者把这与硬过滤下的质量下降、期望任务性能下降、过长负引导的质量损失和复杂提示词上的 mode shift 联系起来,并认为控制过程不够显式。
- 本文提出: Decoupled Safety Control(DSC),把训练无关安全引导写成依赖当前生成状态的显式控制,接到 SLD 与 SAFREE 上,基座权重不变。
- 威胁模型:
- 目标: 抑制与 safeguard 条件 c− 相关的不安全内容,并保留提示条件 p 里与不安全因素无关的良性语义。
- 知识: 论文未使用 white-box、black-box、gray-box 或 no-box。
- 能力: 接入已有 training-free pipeline P,不改权重;每步可读 xt、p 与 c−。c− 为 unsafe concept、unsafe subspace 或 unsafe reference set。
- 系统: 实验在 SD-v1.4 与 SD-v3 上,针对对抗裸体提示词和多类别不当内容。
有哪些相关研究?
相关工作分权重修改、潜空间或提示词空间引导、轨迹级负引导;作者把区别放在控制链组织方式。
作者按是否改权重,以及干预落在表示还是轨迹,讨论了三类相关工作。
训练式安全方法
- 概念擦除与权重编辑: ESD(Gandikota 等,2023)、RECE(Gong 等,2024)、UCE(Gandikota 等,2024)、R.A.C.E.(Kim 等,2024)、MACE(Lu 等,2024)、图像到图像生成模型的 machine unlearning(Li 等,2024)、STEREO(Srivatsan 等,2025)、Selective Amnesia(Heng 与 Soh,2023)。作者称它们可去掉目标不安全概念,但要重训练或直接改参数,并可能降低良性生成质量。本文改为推理时控制且不改基座。
训练无关的潜空间与提示词空间方法
- SLD 与 SAFREE: SLD(Schramowski 等,2023)用预定义安全提示词修改 classifier-free guidance;SAFREE(Yoon 等,2025)过滤不安全提示表示,并在采样中自适应重加权注意力。
- 其他变体: 论文列举 latent guarding、embedding guidance、prompt purification、prompt-side steering,未逐篇与本文对比。
- 聚焦理由: 作者称关注这两项,是因为它们分别代表潜空间与文本空间 safeguard,且干预仍由预指定的不安全概念、子空间或参考导出。
轨迹级安全引导
- 改采样路径: Safe Denoiser(Kim 等,2026)、Shielded Diffusion(Kirchhof 等,2025)、Safety-Guided Flow(SGF,Kim 等,2026)用不安全参考、排斥场或时变负引导直接改采样路径。
- 负引导分析: Ban 等(2024)、Koulischer 等(2025)、Li 等(2025)分析负提示词或负引导如何影响去噪。引言还把硬过滤、期望任务性能下降、过长负引导和复杂提示词上的 mode shift 当作已有观察。
- 作者的区分: 这些工作靠改变去噪轨迹处理训练无关安全;作者称本文关注的是引入训练无关干预之后,安全控制链如何组织。
基线与基准
- 基线方法: 训练式 ESD、RECE;训练无关 SLD、SAFREE;同一底层 safeguard 上以 SGF 为近期增强基线,再与 DSC 比较。
- 基准: 对抗裸体用 Ring-A-Bell、UnlearnDiff、MMA-Diffusion;良性生成用 COCO;多类别用 CoPro。
作者把区别放在控制过程:不安全规格仍由 safeguard 条件固定,运行时证据、控制状态、干预路线、更新构造和执行时机从当前生成状态解析,而不是从单一不安全条件直接继承。
论文如何解决这个问题?
DSC在每步提取证据、估计路线状态、选择干预、构造更新并按阶段执行,不替换原safeguard条件。
Decoupled Safety Control(DSC) 不改基座、也不替换原 safeguard 条件,而是把每个已防护去噪步改成由当前生成状态决定的控制(Figure 2,Algorithm 1)。
问题设定
- 防护步: 初始噪声 xT 来自标准正态。提示条件 p、safeguard 条件 c− 下,一步写成 xP t-1 = Ht(xt, p, c−; P)。c− 是该 safeguard 使用的 unsafe concept、unsafe subspace 或 unsafe reference set。
- 目标: 抑制与 c− 相关的不安全内容,保留 p 中无关的良性语义。作者称语义纠缠时,还要决定是否干预、抑制什么、保留什么、当前步多强。
- 拆开的量: 不安全规格保持固定;运行时证据、控制状态、路线、更新和执行时机从当前状态解析。
证据与路线状态
- 证据: et = Φt(xt, p, c−; P)。作者称 c− 指定应避开什么,但不必然是当前步最有信息的观测。证据可来自去噪分支差、提示侧过滤线索、预测干净样本关系或当前支持模式。
- 四元组: 路线 r 的状态含不安全压力 πt(r)、保留需求 κt(r)、有害–良性纠缠 ηt(r)、支持范围 ωt(r),即 st(r)=(πt(r),κt(r),ηt(r),ωt(r))。它概括该路线当前的控制需求。
- 怎么算: π 为抑制方向与不安全侧证据的 sim,κ 为保留方向与良性保留证据的 sim,η 为两方向的 leak(只计非负重叠)。有空间或 token 支持图时 ω 为其均值,否则为 1。分母含稳定项 ε;论文未给出 ε 的数值。
路由、更新与执行
- 三条路线: rsup 为直接抑制,rbal 为兼顾保留的平衡控制,rrel 为释放、回到基线动力学。可接受集要求 κ≥τκ、η≤τη、ω≥τω,且不含 rrel;其中选 π 最大者,空集则选 rrel。同一 c− 因此可以走出抑制、保真或释放。
- 更新: 选定路线后在 safeguard 空间构造 ũt。附录 D 中,rsup 用支持图调制后的抑制方向;rbal 再减去沿保留方向的一项,缩放与纠缠有关;rrel 的更新为 0。作者称不安全压力高时校正更强,保留需求高或泄漏更强时更温和。
- 执行系数: αt 由基线校正与 ũt 的范数比裁剪得到,ρt 依赖所选状态和采样进度。执行校正为 ut=(1−ρt)αtũt,再与基线防护步融合。α 更大则校正更强,ρ 更大则更接近基线。释放路线上更新为 0 且 ρt=1,从而保留基线步。释放起点之前,非释放路线的 ρt 为 0。
接到 SLD 与 SAFREE
- SLD: 证据来自提示、无条件、安全概念三个去噪分支。不安全侧为提示分支与安全概念分支之差,保留侧为提示分支与无条件分支之差。路线量在潜去噪空间计算。不替换 SLD 的 safeguard 条件。
- SAFREE: 证据含提示到子空间邻近、过滤后的提示侧表示、由此引起的去噪差,以及支持模式。不安全侧为提示预测与过滤文本预测之差,保留侧为过滤分支与无条件分支之差。不改 SAFREE 管线或权重。
- 固定参数(Table D.2): 在与测试基准不相交的校准划分上按 safeguard 固定,跨基准不单独调。τκ=0.80,τη=0.56,τω=0.08,cref=1.0,ρmax=0.85,释放起点 jrel=0.72T。强度区间:SLD 为 [0.98, 1.28],SAFREE 为 [0.94, 1.22]。论文未说明校准集名称与规模。
外部判定
- 不在算法内打分: 裸体任务用 NudeNet 的 ASR 与 TR,多类别用 IP。阈值与评审见第 4 问。
论文做了哪些实验?
Table 1里SLD+DSC与SAFREE+DSC的ASR低于原safeguard和SGF。
主实验在 SD-v1.4 上比较对抗裸体与良性生成,并在 CoPro 上测多类别不当内容;DSC 接到 SLD 与 SAFREE。
实验设置
- 骨干与采样: 主实验为 Stable Diffusion (SD) v1.4,DDPM,50 步;兼容性实验为 SD-v3(官方 SD3-medium)。除非另述,方法共用同一基准资产与评估设置(Section 4,Appendix B)。
- 规模: Ring-A-Bell 为选用的 79 条;UnlearnDiff 为裸体相关 116 条;MMA-Diffusion 为 1000 条。COCO-30K 测良性生成,Table 1 的 FID 与 CLIP 用前 10K 对。CoPro 为 CoPro-10K,七类:harassment、hate、illegal activity、self-harm、sexual、shocking、violence。耗时协议为 COCO-3K。
- 对照: 训练式 ESD、RECE;训练无关 SLD、SAFREE;同一 safeguard 上的 SGF。DSC 在表中记为 SLD+Ours、SAFREE+Ours。
- 指标: ASR 为 NudeNet 裸体类概率超过 0.6 的图像比例;TR 为该概率的均值。IP 用既有 Q16 协议。FID 用 pytorch-fid,CLIP 用 ViT-B/32。
- 补充与重复: Appendix E 报告 MMA-Diffusion 的 prompt-cluster bootstrap 95% 区间,以及 NudeNet、Q16、ShieldGemma2、Llama Guard 4 和人工标注。人工为 5 名博士生,每方法臂 1000 张,方法身份隐藏。论文未报告主表重复次数,也未报告标注者一致性。
- 消融范围: 五阶段替换只在 SAFREE、MMA-Diffusion 上做,每次只把一个 DSC 阶段换回 SAFREE 默认行为(Appendix B.4)。
主结果
下表据 Table 1(SD-v1.4;ASR 越低越好)。COCO 的 FID、CLIP 为前 10K。省略 ESD(ASR 依次为 0.456、0.422、0.628)。
表格较宽,可左右滑动
方法 Ring-A-Bell ASR UnlearnDiff ASR MMA-Diffusion ASR COCO FID COCO CLIP SD-v1.4 0.797 0.809 0.962 25.04 31.38 RECE 0.177 0.284 0.651 33.94 30.29 SLD 0.481 0.629 0.881 36.47 29.28 SLD+SGF 0.228 0.353 0.297 36.83 28.13 SLD+Ours 0.089 0.060 0.169 32.68 28.65 SAFREE 0.278 0.353 0.601 25.29 30.98 SAFREE+SGF 0.051 0.164 0.423 23.73 30.36 SAFREE+Ours 0.025 0.137 0.167 20.95 30.36 - 作者称相对原 safeguard,MMA-Diffusion 上 ASR 相对降低 80.8%(SLD)和 72.2%(SAFREE),UnlearnDiff 上相对降低 90.5%(SLD)和 61.2%(SAFREE);这是相对降幅,不是百分点。TR 趋势相同。SLD+Ours 的 TR 为 0.095、0.088、0.201;SAFREE+Ours 为 0.078、0.180、0.225(顺序同表,Table 1)。
- 作者称相对 SGF,两种 safeguard 的 FID 更好,CLIP 持平或更高。相对无防护 SD-v1.4,SLD 系列 FID 更高、CLIP 更低;SLD+Ours 的 CLIP 也低于原 SLD。表中 MMA-Diffusion 上 RECE 的 ASR 仍高于两种 Ours。
- 作者称 SD-v1.4 在这些基准上很脆弱,原版 SLD 与 SAFREE 在 MMA-Diffusion 和 UnlearnDiff 上仍脆弱。Figure 1 为定性比较;作者称接到 SLD 或 SAFREE 时避免生成不当图像。文中提示词此处不复述。
多类别 IP(CoPro)
Table 2,同一 SD-v1.4 与类别划分。IP 越低越好。
方法 Avg. IP CLIP SD-v1.4 0.223 29.81 SLD 0.170 29.65 SLD+Ours 0.131 29.02 SAFREE 0.153 28.91 SAFREE+Ours 0.088 28.38 - 作者称七类都下降。SAFREE+Ours 各类 IP 为 harassment 0.101、hate 0.062、illegal activity 0.062、self-harm 0.116、sexual 0.045、shocking 0.085、violence 0.146。
- 作者认为 CLIP 仍有竞争力,提示对齐损失有限。表中加入 DSC 后 CLIP 低于对应原 safeguard。
- Figure C.4 为 illegal-activity 的定性例子;作者称输出被引向更安全的画面,同时保留大体场景。提示词不复述。
机制分析
- 运行时组织: Figure 3 横轴为去噪步 0–49,纵轴分别为 step-wise mean 与 selection rate。作者称 SAFREE 默认链里,prompt-to-subspace proximity 与 token filtering ratio 由提示侧概念分析决定且跨步固定,过滤嵌入再按去噪日程使用;DSC 下被选路线占多数 sample-step 决策,默认选择保持较小。图中有标注数字,纯文本无法可靠对应图例,不把这些数字分到曲线。
- 状态与更新: Figure 4 标注所选路线上保留需求与不安全压力的 r=-0.56;作者称负相关说明二者不可互换。路由边际在 82.4% 的显式控制决策中为正(相对同一证据下的 SAFREE 默认行为)。正文写路线条件更新范数随不安全压力四分位从 1.13 到 2.01,随保留需求四分位从 1.95 到 1.15;Figure 4 标注了 2.01 与 1.15。作者称这与预定的路由和更新构造一致。
- 阶段是否可缺: 作者称把任一 DSC 阶段换回 SAFREE 默认行为后,ASR 与 TR 都高于完整方法;逐项数字见下文。
SD-v3、耗时与补充评估
- SD-v3(Table 4): Ring-A-Bell 的 ASR/TR:SD-v3 为 0.304/0.330,SAFREE 为 0.278/0.298,SAFREE+Ours 为 0.038/0.073。COCO-30K 的 FID/CLIP 从 22.99/31.24 到 17.54/30.82。作者称 SAFREE 单独提升不大;加上该方法后 ASR、TR 下降,FID 改善,CLIP 为 30.82。
- 耗时(Table 5): 单张 NVIDIA H100 80GB HBM3、COCO-3K。SAFREE 为 4.938 秒/图,SAFREE+SGF 为 5.181,SAFREE+Ours 为 5.096。作者称相对 SAFREE 增加 0.158 秒/图。
- 区间与其他评审: Table E.1 中 MMA-Diffusion ASR:SLD+Ours 为 0.169 [0.147, 0.192],相对 SGF 的配对差为 −0.128 [−0.156, −0.101];SAFREE+Ours 为 0.167 [0.145, 0.190],配对差为 −0.256 [−0.288, −0.224]。作者称两个配对区间都低于 0。Table E.2 中 DSC 相对同 safeguard 的 SGF,在 NudeNet、Q16、ShieldGemma2、Llama Guard 4 和人工下都不安全率更低;人工为 SLD+Ours 0.153、SAFREE+Ours 0.131(SGF 为 0.441、0.479)。同一 SAFREE+Ours 图像上,ShieldGemma2 为 0.072,Llama Guard 4 为 0.069,NudeNet 为 0.167;作者未解释评估器之间的差。Table E.3 的 CoPro 七类平均在四种协议下 DSC 都更低;人工为 SLD 0.183 对 0.119,SAFREE 0.130 对 0.107,后一对的差距小于原 IP 的 0.153 对 0.088。完整 COCO-30K(Table C.1):SAFREE+Ours 的 FID/CLIP 为 17.14/30.49,SLD+Ours 为 26.54/29.05。
其他消融与分析
- 去掉 runtime evidence extraction:ASR 0.394,TR 0.448(相对 SAFREE+Ours 的绝对上升 ΔASR +0.227,ΔTR +0.223;Table 3)。
- 去掉 control-state estimation:ASR 0.419,TR 0.470(ΔASR +0.252,ΔTR +0.245)。
- 去掉 intervention routing:ASR 0.452,TR 0.494(ΔASR +0.285,ΔTR +0.269)。
- 去掉 update construction:ASR 0.462,TR 0.507(ΔASR +0.295,ΔTR +0.282)。
- 去掉 phase-aware execution:ASR 0.492,TR 0.525(ΔASR +0.325,ΔTR +0.300),五项中最高。
- 对照:SAFREE+Ours 为 ASR 0.167、TR 0.225;SAFREE 本身为 0.601、0.618。均为 MMA-Diffusion、SAFREE 管线。论文未报告阈值扫描。
有什么可以进一步探索的点?
作者称现有协议不能覆盖全部部署设置,DSC应被看作文生图里的一层推理时控制。
作者把局限主要写在评测协议不能覆盖全部部署设置,以及机制仍可能被探测或绕过。
作者指出的局限与后续方向
- 任务范围: DSC 是文生图的推理时 safeguard(Appendix A)。
- 评测材料: 与其他被比较的安全方法一样,实证评测使用已发布提示词集,自动安全评估器辅以人工标注(Appendix A)。
- 部署覆盖: 作者称这些协议提供了一致的比较基础,但不能完全覆盖全部部署设置(Appendix A)。
- 方法定位: 作者称该方法应被理解为文生图系统中的一层实用安全控制(Appendix A)。
- 被绕过的可能: 作者称安全机制在实践中仍可能被探测或绕过,部署敏感场景应配合 benchmark-aware 评估与适当审查(Appendix A)。
- 后续实验: Conclusion 重述所评设置下的结果,未另列具体后续实验。
实验覆盖范围
- 生成骨干为 SD-v1.4(DDPM,50 步)与 SD-v3(官方 SD3-medium);DSC 接在 SLD 与 SAFREE 上,并与 ESD、RECE、SGF 比较(Section 4,Table 1、Table 4)。
- 对抗裸体提示为 Ring-A-Bell 79 条、UnlearnDiff 116 条、MMA-Diffusion 1000 条;COCO-30K 用于 FID/CLIP,Table 1 用前 10K;耗时为单卡 H100、COCO-3K(Appendix B,Table 5)。
- CoPro 使用 CoPro-10K 与七类划分,IP 为 Q16 协议(Appendix B.2,Table 2)。
- 五阶段消融只在 SAFREE、MMA-Diffusion 上做;阈值在与测试集不相交的校准划分上固定后跨基准共用,论文未说明该校准集的名称与规模(Section 4.3,Appendix B.4、D)。
- Appendix E 对 MMA-Diffusion 报告 prompt-cluster bootstrap 95% 区间,并用 NudeNet、Q16、ShieldGemma2、Llama Guard 4 及 5 名博士生(每臂 1000 张,隐藏方法身份)评估;CoPro 另有七类平均的补充协议。论文未报告主表重复次数、标注者一致性、标注说明全文,以及 CoPro 人工评估的逐类样本量。
总结一下论文的主要内容
DSC不改扩散权重,把SLD/SAFREE的干预改成随当前状态路由,并在所评基准上降低不安全率。
Decoupled Safety Control(DSC) 是接到训练无关文生图 safeguard 上的推理时控制算法,不修改基座权重。
- 问题: 作者认为许多训练无关方法把应避开什么、当前不安全信号、如何构造校正、校正持续多久绑在同一不安全条件上。有害与良性语义在当前轨迹纠缠时,干预可能过弱而残留不安全内容,或过宽而损害质量与提示词保真。
- 做法: 每步提取运行时证据,在抑制、平衡、释放三条路线上估计不安全压力、保留需求、纠缠和支持范围,再按可接受性选路线、构造更新,并用强度与释放系数执行。实例化于 SLD 与 SAFREE;Table D.2 的阈值跨基准共用。
- 裸体基准: SD-v1.4、Table 1 中,SLD+DSC 的 ASR 为 Ring-A-Bell 0.089、UnlearnDiff 0.060、MMA-Diffusion 0.169;SAFREE+DSC 为 0.025、0.137、0.167,均低于对应原 safeguard 与 SGF。作者称相对原 safeguard,MMA-Diffusion 上 ASR 相对降低 80.8%(SLD)与 72.2%(SAFREE)。
- 质量与多类别: 相对 SGF,作者称 FID 更好、CLIP 持平或更高;SAFREE+DSC 的 COCO FID 为 20.95,CLIP 为 30.36。CoPro 平均 IP 从 SLD 的 0.170 到 0.131,从 SAFREE 的 0.153 到 0.088,同时 CLIP 低于原 safeguard。
- 其他设置: SD-v3 上 SAFREE+DSC 的 Ring-A-Bell ASR/TR 为 0.038/0.073(Table 4)。COCO-3K 上相对 SAFREE 增加 0.158 秒/图(Table 5)。换掉任一控制阶段都会提高 MMA-Diffusion 上的 ASR 与 TR(Table 3)。
- 作者结论: 作者称把安全引导组织成显式运行时控制,可以在不改基座的情况下加强所评的训练无关 safeguard,并在所评设置下保住良性生成质量。Appendix A 同时写明,现有协议不能完全覆盖全部部署设置。