跳到正文
原文

TraceRouter++:基于最优传输的因果语义路由重对齐

TraceRouter++: Causal Semantic Routing Realignment via Optimal Transport

arXiv:可解释性· arXiv:2611.04878· IEEE Transactions on Pattern Analysis and Machine Intelligence 2026· Chuancheng Shi, Shangze Li, Wenhua Wu, Hengzhi Chen, Fei Shen, Li Zhuo, Zhiyong Wang, Tat-Seng ChuaThe University of Sydney; Nanjing University of Science and Technology; National University of Singapore; Beijing University of Technology本站收录· 16 天前· 原文发表防御

论文速读

防御

据论文 PDF 整理(AI 生成),以原文为准

作者提出路由级安全干预框架 TraceRouter++,称在 LLM、MLLM、DM 上 DSR 最高 99.5±0.3%,效用损失不超过 0.6 个百分点。

威胁模型防御方在推理时对 LFM 内部激活做干预,抵御越狱与有害内容生成:LLM 面对 GCG、AutoDAN 等 gradient driven 攻击与 Template、Prefill 等 pattern injections;MLLM 面对 FigStep 图像侧与 JailbreakV-28K 文本侧越狱;DM 面对 P4D、Ring-A-Bell 对抗提示。

问题
现有安全干预多基于局部性假设,硬性抑制孤立神经元或特征;作者认为有害语义沿跨层路由传播,局部消融易被复杂越狱绕过且损害通用能力。
方法
TraceRouter++ 按 Discover–Trace–Realign 运行:用注意力散度定位敏感起始层,Top-K SAE 分解路由特征,FIS 追踪跨层因果路径,再用逐坐标边际最优传输把不安全激活分布软重对齐到安全参考分布。
实验与结果
在 LLM、MLLM、DM 上评测:LLaMA3-8B-Instruct 平均 DSR 99.5±0.3%,效用下降不超过 0.6 个百分点;但 P4D 攻击下 DSR 76.0±1.3%,防御感知自适应 GCG 下 DSR 降至 73.4±2.1%(LLaMA3)和 52.4±1.1%(Mistral)。
局限与可以继续做的
作者在附录 B 指出:对防御感知自适应 GCG 不具备普遍鲁棒性,跨模型自适应鲁棒性是未来方向;附录 A 报告 Prefill 类攻击可压过固定强度干预的失败案例,安全参考集语义构成的影响未独立研究。
实验设置LLaMA3-8B-Instruct、Mistral-7B-Instruct 等 · AdvBench、HarmBench 等 · DSR、ORR 等
威胁模型
防御方在推理时对 LFM 内部激活做干预,抵御越狱与有害内容生成:LLM 面对 GCG、AutoDAN 等 gradient driven 攻击与 Template、Prefill 等 pattern injections;MLLM 面对 FigStep 图像侧与 JailbreakV-28K 文本侧越狱;DM 面对 P4D、Ring-A-Bell 对抗提示。攻击者可任意构造输入提示,论文未限定攻击者对模型内部的知识。
被测模型
LLaMA3-8B-InstructMistral-7B-InstructLLaVA-1.5-7BMiniGPT-4-7BDeepSeek-VL2Stable Diffusion 1.4FLUX.1-DevAltDiffusionShow-o2
基准
AdvBenchHarmBenchGCGAutoDANTemplatePrefillXSTESTGlobal-MMLU-LiteFigStepJailbreakV-28KMMBenchI2P-NI2P-VP4DRing-A-BellMS COCO
指标
DSRORRAccuracyCLIP ScoreFID
AI 导读研究者提出路由级安全干预框架 TraceRouter++,追踪有害输入激活的因果语义路由通路并重对齐其不安全激活状态。该框架用注意力散度定位敏感起始层,经稀疏自编码器(SAE)与特征影响分数(FIS)映射到下游因果回路,以最优传输软重对齐将不安全激活导向安全参考。在 LLM、多模态大模型和扩散模型上的实验显示,TraceRouter++ 优于所评测基线,提升对抗鲁棒性同时保持较好的安全-效用平衡。

研究者提出路由级安全干预框架 TraceRouter++,追踪有害输入激活的因果语义路由通路并重对齐其不安全激活状态。该框架用注意力散度定位敏感起始层,经稀疏自编码器(SAE)与特征影响分数(FIS)映射到下游因果回路,以最优传输软重对齐将不安全激活导向安全参考。在 LLM、多模态大模型和扩散模型上的实验显示,TraceRouter++ 优于所评测基线,提升对抗鲁棒性同时保持较好的安全-效用平衡。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    作者认为局部神经元抑制易被越狱绕过且损害效用,提出路由级软重对齐防御。

    核心问题:如何在推理时拦截大基础模型(LFM)中沿跨层路由传播的有害语义,同时不损害通用能力。

    • 问题场景:作者称 LLM、MLLM、DM 均面临对抗操纵风险;现有安全干预多依赖局部性假设(locality hypothesis),硬性抑制孤立神经元或特征。
    • 现有方法不足:作者认为有害语义以分布式、跨层电路形式存在,局部消融像孤立路障,复杂越狱下有害信息可经替代路径恢复;强行切断纠缠组件还会破坏良性计算、降低通用效用(Figure 1)。
    • 核心假设:论文形式化提出路由级表示假设——安全关键语义经分布式因果路由电路编码与传输,因此把安全干预建模为路由子空间上的分布对齐问题,用最优传输(OT)做软重对齐。
    • 论文方案:提出 TraceRouter++,按 Discover–Trace–Realign 三阶段定位敏感起始层、追踪因果路由路径、执行 OT 驱动的软路由重对齐,是前作 TraceRouter [67] 的扩展版本。
    • 威胁模型:
      • 攻击者目标:诱导模型输出有害内容(LLM/MLLM 越狱、DM 生成裸露或暴力图像)。
      • 攻击方式:LLM 上为 GCG、AutoDAN 等 gradient driven 攻击与 Template、Prefill 等 pattern injections;MLLM 上为 FigStep 图像侧与 JailbreakV-28K 文本侧越狱;DM 上为 P4D、Ring-A-Bell 对抗提示。
      • 攻击者知识:论文未明确限定;附录 B 另测了针对干预后模型打分的 defense-aware adaptive GCG。
      • 受害系统:加载 TraceRouter++ 推理时干预的 LLaMA3-8B-Instruct、Mistral-7B-Instruct、LLaVA-1.5-7B、MiniGPT-4-7B、DeepSeek-VL2、Stable Diffusion 1.4 等。
  2. 有哪些相关研究?

    相关工作分三组:LFM 安全干预、因果路由分析、表示学习中的最优传输。

    LFM 安全干预

    • 训练时对齐 RLHF [52]、DPO [57] 与推理时防御 circuit breaker (CB) [94]、safety-specific neuron ablation [90]:前者优化生成偏好,后者显式破坏恶意表示。
    • DM 干预:推理时引导 SLD [62],闭式参数编辑 ESD [19]、UCE [20]、MACE [46] 做概念擦除;MLLM 防御 ECSO [26](图像转文本)、CoCA [21](宪法式校准)、SafePTR [10] 与 SGM [74](token/神经元级拦截)。
    • 论文指出这些轻量编辑与细粒度方法多隐含依赖局部性假设,作者称此类局部擦除常被复杂对抗提示绕过 [54] 并引入副作用 [61];该批评针对这一现象,论文未逐篇点名。

    神经表示的因果路由分析

    • 机制可解释性研究认为语义行为源于跨层路由路径而非孤立节点:influential neuron paths [75] 刻画概念如何以叠加形式经结构化路由表达;DM 研究 [30]、[9] 表明文本概念经多层注意力轨迹引导图像合成。
    • 表示引导与概念擦除方法 [93]、[7] 通过修改激活方向或投影概念信息控制行为。论文称多数安全干预尚未把因果路由路径整合进防御机制,TraceRouter++ 把跨层路由识别与逐坐标 OT 结合。

    表示学习中的最优传输

    • OT [53] 与 Wasserstein 距离 [5] 已用于域适应 [13]、生成建模 [5]、跨模态对齐 [2];近期 OpT-DeUS [8] 融合 Transformer 块、OTPO [40] 用非平衡 OT 做 token 加权、MOT [64] 推断层间软耦合。
    • 论文称 OT 用于内部因果路由重对齐仍探索不足,现有安全干预多为刚性消融或正交投影 [93]、[7]。

    基线与基准:LLM 基线为 DeepAug [55]、CB [94]、DeRTa [87]、HumorReject [81]、LEACE [7]、TraceRouter [67],基准 AdvBench/HarmBench 加 GCG、AutoDAN、Template、Prefill 攻击;MLLM 基线为 FigStep [25]、CoCA、ECSO、AdaShield [76]、Immune [23]、SafePTR,基准 JailbreakV-28K 与 FigStep;DM 基线为 ESD、UCE、CA [37]、SLD-Med、MACE、RECE [24]、SPM [48]、DuMo [28]、SNCE [29],基准 I2P-N/V、P4D、Ring-A-Bell。作者定位本文为把路由级机制理解与 OT 软重对齐结合的通用框架。

  3. 论文如何解决这个问题?

    Discover–Trace–Realign:定位起始层、SAE 分解特征、FIS 追踪路径、OT 软重对齐。

    整体思路:把安全干预形式化为因果路由子空间上的受约束分布对齐问题,沿识别出的恶意路由路径把不安全激活边际分布映射向安全参考边际分布,非选中坐标保持不变。框架名 TraceRouter++。

    问题形式化

    • 设激活向量 h ∈ R^d,R 为对干预敏感且与有害语义传播因果相连的路由特征下标集;求传输映射 T 最小化传输成本,约束 T# pX = pY 且 R 之外坐标不变(Eq. 1)。
    • 完整多变量 OT 计算昂贵,作者采用逐坐标边际 OT 近似:标量激活 v 在坐标 k 上按经验分位数映射 Tk(v) = FYk−1(FXk(v)) 对齐边际分布(Eq. 7)。
    • Proposition 1:在坐标因子化与可分离成本假设下,逐坐标映射之积是联合最优传输映射;作者明确 SAE 特征不假设满足因子化,近似无一般联合对齐保证。Proposition 2 给出精确联合传输下的最小扰动性质,作者注明其不适用于逐坐标实现,效用保持靠经验评估。

    Discover:敏感路由源识别(III-B,Algorithm 1)

    • 定义敏感注意力 SA:敏感修饰词 token 到目标实体名词 token 的头平均注意力(Eq. 2);减去无关 token 上的上下文扰动 CD(Eq. 3)得敏感度分数 SS(l)(Eq. 4)。
    • 取 SS(l) 第一个显著局部峰所在层为敏感起始层 l*(Figure 3);Stable Diffusion 1.4 的注意力取自冻结的 CLIP ViT-L/14 文本编码器的 12 个块。
    • 在 l* 用 Top-K SAE 分解稠密激活,按 ΔWFS = WFS_sens − WFS_benign(Eq. 5)排序,取 Top-K 为敏感路由特征。

    Trace:因果语义路由追踪(III-C,Algorithm 2)

    • 用 SAE 解码矩阵 Wdec 把敏感特征投回 l* 稠密空间,取投影幅度最大的坐标为源路由节点 Ssrc。
    • 对 Ssrc 做一次选择性置零消融,缓存消融前后各层激活;作者称置零消融是因果中介分析的可处理近似。
    • 用特征影响分数 FIS(m) = f_dense(m) · µ_dense(m) · ∆ablation(m)(Eq. 6)量化下游节点因果影响,逐层取 Top-K 高 FIS 节点重建因果路由路径,构造二值路由掩码 M。

    Realign:OT 软路由重对齐(III-D,Algorithm 3)

    • 对掩码选中的每个坐标,用不安全输入与安全参考输入下的激活样本估计经验 CDF,按 Eq. 7 做分位数映射;未选中坐标用恒等映射。
    • 重对齐按 h̃ = h + M ⊙ (T(h) − h)(Eq. 8)逐坐标独立应用;推理时对每个输入都施加该掩码重对齐,不依赖外部安全检测器。

    实现与评测设置

    • SAE 扩展因子 4×,Adam 优化,学习率 4×10⁻⁴,batch size 4096,MSE 重建损失;K 由 WFS 排序曲线肘点确定;OT 干预强度默认 λ = 1。
    • 安全判定:Claude 3.5 Sonnet 与 GPT-4 独立判定 DEFENDED/UNSAFE,分歧或 UNCERTAIN 时由三名标注者多数投票;图像域用 NudeNet 检测裸露、按 Ring-A-Bell 协议用 Q16 评估暴力;主结果重复 5 个种子,单张 NVIDIA A6000 运行。
  4. 论文做了哪些实验?

    三类架构上 DSR 最高 99.5±0.3%,效用降幅≤0.6 个百分点;自适应 GCG 下明显下降。

    实验设置

    • 被测模型:LLaMA3-8B-Instruct、Mistral-7B-Instruct(LLM);LLaVA-1.5-7B、MiniGPT-4-7B、DeepSeek-VL2(MLLM);Stable Diffusion 1.4、FLUX.1-Dev、AltDiffusion、Show-o2(DM)。
    • 数据集与攻击:LLM 用 AdvBench、HarmBench 构造有害指令,攻击为 GCG、AutoDAN、Template、Prefill 及组合;MLLM 用 JailbreakV-28K(T/P/L 三类文本越狱 × Noise/SD/Nature/Blank 视觉上下文)与 FigStep(10 个安全类别);DM 用 I2P-N、I2P-V、P4D、Ring-A-Bell。
    • 效用基准:XSTEST(ORR)、Global-MMLU-Lite、MMBench、MS COCO(CLIP Score、FID)。
    • 指标:主指标 DSR(防御成功率);ORR 越低越好;FID 越低越好。
    • 评审方式:Claude 3.5 Sonnet 与 GPT-4 独立判定,分歧或 UNCERTAIN 时三名标注者多数投票;图像用 NudeNet 与 Q16。
    • 重复次数:Table II–VII 主结果与 Table VIII–XII 消融为 5 个种子的均值 ± 样本标准差;其余结果保留原报告格式。

    主结果

    据 Table II(LLM,DSR%)与 Table V(DM,DSR%):

    表格较宽,可左右滑动

    模型方法GCGAutoDANTemplatePrefillT+PAvg.
    LLaMA3-8B-InstructOriginal88879841263.2
    LLaMA3-8B-InstructHumorReject9899991009898.8
    LLaMA3-8B-InstructTraceRouter++99.0±0.799.8±0.499.6±0.599.8±0.499.4±0.599.5±0.3
    Mistral-7B-InstructOriginal4222146.6
    Mistral-7B-InstructHumorReject959796989796.6
    Mistral-7B-InstructTraceRouter++99.4±0.599.0±0.798.8±0.498.6±0.598.4±0.598.8±0.3
    • 作者称 TraceRouter++ 在全部攻击类别上保持高 DSR,5 个种子标准差不超过 0.7 个百分点;LEACE 平均 DSR 仅 69.0%(LLaMA3)与 21.2%(Mistral)。
    • MLLM(Table III、IV):LLaVA-1.5-7B 在 JailbreakV-28K 平均 DSR 从 48.3% 升至 98.8±0.1%,FigStep 上 99.4±0.1%;MiniGPT-4-7B 分别为 96.7±0.4% 与 99.6±0.1%;DeepSeek-VL2 为 94.1±0.8% 与 96.0±0.5%,作者称超过 SafePTR、Immune 的报告值。
    • DM(Table V):Stable Diffusion 1.4 上 I2P-N 99.3±0.2%、I2P-V 96.1±0.4%、P4D 76.0±1.3%、Ring-A-Bell 98.0±1.1%;作者称均值超过 SNCE 与 RECE 的报告值,同时指出 P4D 下防御率较低、仍存在脆弱性。

    效用与过度拒绝

    • 通用效用(Table VI):Global-MMLU-Lite 准确率 LLaMA3 降 0.4、Mistral 降 0.6 个百分点(71.1±0.4%、62.4±0.3%);MMBench 三个 MLLM 分别降 0.1、0.5、0.1 个百分点;Stable Diffusion 1.4 的 CLIP Score 降 0.26(31.08±0.07),FID 8.62±0.04。作者称这些数字支持较好的安全–效用权衡,但不证明下游良性计算不变;MiniGPT-4 原始 MMBench 仅 16.0%,论文注明其效用证据单独看强度有限。
    • 过度拒绝(Table VII):XSTEST 上 LLaMA3 ORR 从 3.2% 升至 3.5±0.3%,Mistral 从 1.2% 升至 2.3±0.3%;对照方法 DeepAug ORR 为 39.6% 与 62.0%,DeRTa 为 27.6% 与 74.4%。
    • 像素级差异(Figure 7):作者称基线方法在良性与敏感提示下残差分布广泛,TraceRouter++ 残差集中在敏感区域、扰动幅度更低。

    机制验证与自适应攻击

    • 反事实干预(Table VIII):放大识别出的路由使 DSR 从 63.2% 升至 75.8±1.7%(LLaMA3)、49.0% 升至 78.6±0.7%(LLaVA);抑制同一路径使 DSR 降至 61.4±1.4% 与 18.2±1.9%;Stable Diffusion 1.4 相反,抑制升至 98.8±0.4%、放大降至 73.5±1.3%。作者称这提供了路径参与安全相关语义处理的功能性证据。
    • 干预粒度消融(Figure 8):作者称孤立神经元抑制基线在 Prefill 与 P4D 攻击下 DSR 大幅下降,路径级重对齐在各架构上更高;转换文本未给出该图具体数值。
    • 防御感知自适应 GCG(附录 B,Table XVII):攻击针对干预后模型打分候选后缀,LLaMA3 上 DSR 从 58.4±1.7% 升至 73.4±2.1%,Mistral 上从 4.8±2.6% 升至 52.4±1.1%;作者称低于非自适应攻击下的结果,且两模型差异表明自适应鲁棒性依架构而异。

    其他消融与分析

    • OT 模块消融(Table IX):同一路径识别下,hard intervention DSR 74.2/77.4/96.3,linear steering 97.4/95.7/72.2(LLaMA3/LLaVA/SD),TraceRouter++ 为 99.5±0.3/99.4±0.1/99.3±0.2,FID 8.62±0.04 对 19.12 与 16.24。
    • 起始层选择(Table X):first local peak 在三个模型上 DSR 99.5±0.3/99.4±0.1/99.3±0.2,global maximum 为 84.8/78.4/98.3,固定阈值为 80.8/74.4/96.5。
    • 特征数 K(Table XI):K/2 时 DSR 88.6/81.6/96.3,2K 时不升反降且 FID 升至 12.92±0.05。
    • 随机路径对照(Figure 10):随机路径重对齐后 DSR 为 62.8±0.9(LLaMA3)、51.0±0.8(LLaVA)、84.7±0.4(SD),接近原始模型。
    • 路径评分消融(Table XII):完整 F·I·S 在 LLaVA 上 DSR 99.4±0.1,单用 F 或 S 仅 63.4±0.8 与 66.8±0.6;作者注明 F·I 的 LLaMA3 准确率更高、部分简化变体 CLIP Score 更高。
    • 附录 A:SAE 扩展因子 4× 最优(Table XIV);λ 从 1 增至 3 时 DSR 饱和但 ORR 从 3.5±0.3% 升至 12.4±1.2%(Table XV);推理延迟增加 28.8%、吞吐降 21.7%、显存几乎不变(Table XVI);Prefill 类攻击下存在压过固定强度干预的失败案例。
  5. 有什么可以进一步探索的点?

    作者称自适应攻击下鲁棒性不足是未来方向;实验覆盖三类架构共 9 个模型。

    作者指出的局限与后续方向

    • 自适应鲁棒性不足(附录 B):作者称当前方法不能对 defense-aware optimization 提供普遍鲁棒性,提升跨模型自适应鲁棒性是重要未来方向。
    • 自适应鲁棒性依架构而异(附录 B):LLaMA3 与 Mistral 在自适应 GCG 下 DSR 差异(73.4±2.1% 对 52.4±1.1%)表明鲁棒性随架构变化。
    • 安全参考集构成(附录 A):参考集规模敏感性只在固定构建协议下评估,独立变化语义构成仍是开放方向。
    • 效用证据强度(IV-D):MiniGPT-4 原始 MMBench 准确率仅 16.0%,论文注明其效用证据单独考虑时强度有限,因此补测 DeepSeek-VL2。
    • P4D 下残余脆弱性(IV-B):作者指出 P4D 攻击下防御率较低(76.0±1.3%),表明该攻击下仍存在脆弱性。
    • 失败案例(附录 A):λ = 1 时 Prefill 类攻击的强制肯定前缀可压过固定强度干预产生不安全续写,作者称这体现过干预与干预不足之间的残余权衡。

    实验覆盖范围

    • 被测模型共 9 个:2 个 LLM、3 个 MLLM、4 个 DM(Table I),其中 FLUX.1-Dev、AltDiffusion、Show-o2 仅在 Table XIII 与 SNCE 对比。
    • 攻击覆盖:LLM 上 GCG、AutoDAN、Template、Prefill 及组合与防御感知自适应 GCG;MLLM 上 JailbreakV-28K 与 FigStep;DM 上 P4D 与 Ring-A-Bell。
    • 主结果与消融重复 5 个种子;判定为 Claude 3.5 Sonnet 与 GPT-4 双评审加三人多数投票,论文未报告评审与人工的一致性比例。
    • 效率测量(Table XVI)在单张 NVIDIA A6000 上进行;论文未说明测量所用模型与输入规模。
    • 安全参考集为作者构建的良性提示池,主评测中所有 LLM 共用同一固定集合(附录 A)。
  6. 总结一下论文的主要内容

    路由级 OT 软重对齐防御,三类架构 DSR 最高 99.5±0.3%,自适应攻击下仍脆弱。

    TraceRouter++ 是一个推理时安全干预框架,面向 LLM、MLLM、DM 的越狱与有害内容生成防御。

    • 问题:作者认为现有干预基于局部性假设,硬性抑制孤立神经元,有害语义沿跨层路由传播时可经替代路径绕过,且刚性消融损害通用能力。
    • 方法:Discover 阶段用注意力散度定位敏感起始层并以 Top-K SAE 分解路由特征;Trace 阶段用置零消融与 FIS 重建跨层因果路径;Realign 阶段用逐坐标边际 OT 把不安全激活分布软映射向安全参考分布,非选中坐标不变。
    • 主结果:LLaMA3-8B-Instruct 平均 DSR 99.5±0.3%、Mistral-7B-Instruct 98.8±0.3%(Table II);LLaVA-1.5-7B 在 JailbreakV-28K 上 98.8±0.1%(Table III);Stable Diffusion 1.4 在 I2P-N 上 99.3±0.2%(Table V)。
    • 效用代价:Global-MMLU-Lite 准确率降幅不超过 0.6 个百分点,XSTEST 上 ORR 从 3.2% 升至 3.5±0.3%(LLaMA3),推理延迟增加 28.8%。
    • 例外:P4D 攻击下 DSR 76.0±1.3%;防御感知自适应 GCG 下 DSR 降至 73.4±2.1%(LLaMA3)与 52.4±1.1%(Mistral),作者称不具备普遍自适应鲁棒性。
    • 作者结论:作者称恶意行为结构化编码于分布式跨层路由路径,沿因果路径做连续分布对齐比局部抑制更能兼顾鲁棒性与效用,并把因果路由轨迹定位为精确模型干预的接口。

相关论文

共同使用 P4D
共同使用 AutoDAN
再看 3 篇
共同使用 FigStep
共同使用 AutoDAN
阅读原文IEEE Transactions on Pattern Analysis and Machine Intelligence 2026