跳到正文
原文

Centered Ablation:末层方向消融为何作用不足或坍缩,以及一个闭式修正

Centered Ablation: Why Last-Layer Directional Ablation Under-Fires or Collapses, and a Closed-Form Fix

Hugging Face Daily Papers· arXiv:2611.20148· Quy-Anh Dang, Chris NgoKnovel Engineering Lab本站收录· 2 天前· 原文发表入选 攻击· 扫描记录里的位置 →精选关注度39

论文速读

可解释性

据论文 PDF 整理(AI 生成),以原文为准

作者提出 Centered Ablation:把良性公共模态从消融方向中投影掉,在 8 个模型上修复欠触发与坍缩,Gemma-2-9B 坍缩率从 50% 降到 1%。

问题
Directional ablation 是关闭拒答等行为的常用推理期编辑,但在不同模型上表现不稳:有的几乎不触发,有的输出坍缩成重复,文献把症状当作模型个体差异,没有解释也无法预判。
方法
作者把分析限制在最后一个残差流,证明该处消融等价于按余弦门控缩放的 logit 偏置;症状源于方向与良性公共模态的交叠 ω。Centered Ablation 以闭式投影把公共模态从方向中移除,并给出 ω、η、β 三个免生成诊断量。
实验与结果
8 个模型上,CA 在两个欠触发模型上把 fluent-only ASR 提高 29.0 和 46.3 点,Gemma-2-9B 坍缩率从 50% 降到 1%,高 ω 模型上多保留 12–40 点良性答案;ω 与 η 在未见模型上预测收益,5 个后加模型中 4 个 regime 预测正确。
局限与可以继续做的
作者指出结论只适用于最后残差流的 rank-1 消融与贪心解码,两条诊断规律仅基于 8 个模型,η=0.6 的划分只靠 2 个模型、β 阈值只有一个模型跨越;DIM+offset 是 ACE 偏移在本文位点的版本,非 ACE 原始中层设置。
实验设置Qwen2.5-0.5B-Instruct、Qwen3-4B-Instruct-2507 等 · AdvBench、Alpaca 等 · fluent-only ASR、collapse rate 等
威胁模型
攻击者拥有模型权重,在最后一个残差流处沿拒答方向做 directional ablation(s=1)以移除拒答行为;受害系统为 8 个开源指令微调模型;成功由 HarmBench 分类器与 Llama-Guard-3-8B 判定,fluent-only ASR 把坍缩输出计为失败。
被测模型
Qwen2.5-0.5B-InstructQwen3-4B-Instruct-2507Qwen2.5-7B-InstructQwen2.5-3B-InstructGemma-2-2B-itLlama-3.1-8B-InstructLlama-3.2-3B-InstructGemma-2-9B-it
基准
AdvBenchAlpacaHarmBenchJailbreakBenchXSTestMMLUGSM8KEmotion stories
指标
fluent-only ASRcollapse ratebenign rewrite rateωηβMMLU accuracyover-refusal rate
AI 导读和推荐理由Knovel Engineering Lab 研究者提出 Centered Ablation(CA),解释并修复方向消融这一常用于移除拒答方向的激活转向手段的失效问题。论文证明末层方向消融恰为余弦门控的 logit 偏置,末层隐状态共享的公共模式与方向的重叠统一解释了作用不足、波及良性文本和坍缩为重复三种失效,CA 以闭式投影把公共模式从方向中移除。在 8 个指令微调模型上,CA 把 Llama-3.1-8B 与 Llama-3.2-3B 的流畅攻击成功率提高 29.0 和 46.3 个百分点,把 Gemma-2-9B 的坍缩率从 50% 降到 1%,并在高重叠模型上比 ACE 偏移方法多保留 39 到 46 个百分点的良性回答。

Knovel Engineering Lab 研究者提出 Centered Ablation(CA),解释并修复方向消融这一常用于移除拒答方向的激活转向手段的失效问题。论文证明末层方向消融恰为余弦门控的 logit 偏置,末层隐状态共享的公共模式与方向的重叠统一解释了作用不足、波及良性文本和坍缩为重复三种失效,CA 以闭式投影把公共模式从方向中移除。在 8 个指令微调模型上,CA 把 Llama-3.1-8B 与 Llama-3.2-3B 的流畅攻击成功率提高 29.0 和 46.3 个百分点,把 Gemma-2-9B 的坍缩率从 50% 降到 1%,并在高重叠模型上比 ACE 偏移方法多保留 39 到 46 个百分点的良性回答。

推荐理由论文把方向消融的失效归结为单一机制并给出闭式修正,其生成前诊断与对安全评测陷阱的分析对从事激活转向和评测的团队有参考价值。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    Directional ablation 为何在不同模型上欠触发或坍缩,作者给出机制解释和闭式修复 CA。

    核心问题:directional ablation(方向消融)在不同模型上表现不稳——有的几乎不触发、有的输出坍缩成重复——文献只把症状当作模型个体差异,没有机制解释,也无法预先判断哪个模型会以哪种方式失效。

    • 场景与重要性:推理期激活编辑是无需重训控制模型行为的常用手段;消融拒答方向可让聊天模型遵从有害请求,反向则增强拒答(Arditi et al., 2024),配方廉价、免梯度、被广泛复用。
    • 现有方法的不足(按论文说法):实践者调强度、换估计器或加偏移,ACE(Marshall et al., 2025)把投影重新锚定在良性均值上并称能防坍缩;作者认为这些修法都没有说明编辑对输出分布做了什么,因此无法预先说明哪些模型会出问题、修法必须改变什么。
    • 核心观察:在最后一个残差流处,消融恰好是一个 logit 偏置——固定的词汇 footprint 乘以门控(隐藏状态与方向的余弦);余弦从原点量起,而末层状态沿一个远离原点的公共模态聚集,与公共模态交叠的方向会在良性文本上误触发、在目标上欠触发。
    • 论文提出:Centered Ablation(CA),以闭式投影把公共模态从方向中移除;以及三个可在生成前计算的诊断量 ω、η、β,用于预测哪个模型需要修复、修复带来什么。
    • 威胁模型:
      • 目标:移除(或反向放大)指令微调模型的拒答行为。
      • 知识:攻击者能读取并修改模型内部激活(开源权重模型,在最后 decoder block 处挂钩)。
      • 能力:在推理时对每个生成位置施加 rank-1 消融,强度 s=1(放大时 s<0)。
      • 受害系统:8 个开源指令微调模型;成功由 HarmBench 分类器和 Llama-Guard-3-8B 判定,主指标 fluent-only ASR 把坍缩输出计为失败。
  2. 有哪些相关研究?

    作者从激活引导、拒答方向几何、概念擦除、词汇空间读数与越狱评测五路定位本文。

    激活引导(activation steering)

    • Turner et al. (2024) 的 activation addition、Rimsky et al. (2024) 的 contrastive activation addition、Zou et al. (2023a) 的 representation engineering、Li et al. (2023) 的 inference-time intervention:在推理期向隐藏空间加减方向。
    • Lee et al. (2025) 的 CAST:用独立检测器决定何时引导;Tan et al. (2024) 与 Dang & Ngo (2026) 发现引导效果随输入和行为变化大。作者指出这些工作只按行为结果评估编辑,没有推导编辑对输出分布的影响。

    拒答方向及其几何

    • Arditi et al. (2024):拒答由单一方向介导,消融它移除拒答、加回则诱发拒答;Wollschläger et al. (2025) 进一步提出多维拒答锥。
    • ACE(Marshall et al., 2025):主张拒答是激活的仿射而非线性函数,把投影重新锚定在良性均值(在凭观察选出的中层),并称偏移能防坍缩。作者批评其偏移是几何动机、非从编辑效果推导,方向不变,也没有给出哪些模型需要它的判据。

    线性表示与概念擦除

    • 线性表示假说(Mikolov et al., 2013; Park et al., 2024)支持把概念投影掉;擦除方法 INLP(Ravfogel et al., 2020)与 LEACE(Belrose et al., 2023)选择能移除线性可解码信息的投影。作者指出它们优化的是可解码性而非引导的选择性:本文测试中最具判别力的方向恰恰是最差的消融方向。

    词汇空间读数与各向异性

    • Logit lens(nostalgebraist, 2020; Geva et al., 2022; Belrose et al., 2025)经 unembedding 读中间状态;本文用同一映射对一次干预做精确刻画而非描述未引导状态。
    • 上下文表示占据窄锥(Ethayarajh, 2019)、被少数坐标主导(Timkey & van Schijndel, 2021; Sun et al., 2024)、去除主成分有益(Mu & Viswanath, 2018);作者称这些工作没有把各向异性与干预的选择性联系起来。

    越狱与引导的评测

    • 攻击成功由分类器判定(HarmBench:Mazeika et al., 2024;Llama Guard:Inan et al., 2023);Souly et al. (2024) 指出仅拒答或关键词指标会夸大成功;过度拒答由 XSTest(Röttger et al., 2024)单独测量。作者指出以往评测不报告评审如何给退化文本打分,而本文发现两个评审在退化文本上方向相反。

    基线与基准:对比方法为 DIM ablation(标准配方)和 DIM+offset(ACE 偏移在本文位点的纯消融形式);基准为 AdvBench、Alpaca(校准)、HarmBench(攻击)、JailbreakBench 与 XSTest(越狱与过度拒答)、MMLU、GSM8K(能力)。

    作者定位:CA 是对方向本身的闭式修正,源自对末层消融效果的精确推导;相对 ACE 改方向而非原点,相对擦除方法针对门控而非可解码性,并附带生成前诊断(Table 1)。

  3. 论文如何解决这个问题?

    把末层消融精确化简为余弦门控的 logit 偏置,据此投影掉公共模态得到 CA,并给出三个免生成诊断量。

    整体思路:只在一个位点(最后一个 decoder block 之后的残差流)研究一种算子(rank-1 方向消融),精确推导它对 logits 的作用,让推导本身解释失效模式、决定修复形式。Centered Ablation(CA) 即由此而来。

    问题设定与形式化

    • 设 h 为最后一个 decoder block 之后的残差流,模型经 RMSNorm 和 unembedding 得到 logits:ℓ(h) = WU N(h),贪心解码取 argmax。
    • 方向消融 Aus(h) = h − s(h⊤ u)u:s=1 移除 h 沿单位方向 u 的分量,s<0 放大;标准方向 uDIM 是有害(D+,AdvBench)与良性(D−,Alpaca)提示词末 token 状态的均值差(Arditi et al., 2024)。
    • 选此位点的理由:block L 的注意力读的是 block L−1 的输出,对 h 的编辑不进 KV cache,编辑到下一 token 的因果路径只有上式,因此存在闭式解,且可作为 logit processor 部署。

    精确化简:余弦门控的 logit 偏置

    • 定义门控 κu(h) = cos∠(h, u) 与 footprint fu = WU G u。Proposition 3.1:消融后的 logits 等于原 logits 减去 s√d·κu(h)·fu,再乘一个正的标量 τs(不改变 argmax)。
    • 两个推论:自门控——状态的 gate 为零当且仅当它不受影响,强度 s 和 footprint 都不能保护良性文本;坍缩指数 βs(h) = s√d|κu(h)|σfu/σℓ(h),β≳1 时 footprint 主导,输出退化为重复。

    失效机制:良性 floor

    • 末层良性状态围绕公共模态 µ̂− 聚集(在测量的 3 个模型上,良性均值方向与全体状态均值的 |cos| 为 0.83–0.99,附录 G.3);定义交叠 ω(u) = |u⊤µ̂−|。
    • 门控分解(式 6)给出良性均值 gate ≈ λ̄ω:一个只由 ω 决定的 floor,调 s 无法消除。ω 大导致两种失效:良性文本被改写乃至坍缩;方向的类别分离部分被稀释而欠触发。

    Centered Ablation 与偏移路线

    • CA:uCA = unit((I − µ̂−µ̂−⊤)uDIM),把公共模态从方向中投影掉再消融。Proposition 3.2:ω(uCA)=0(floor 移除),且保留除公共模态分量外的全部类别分离。Algorithm 1 只需两个样本均值、一次投影、一次归一化,除 s 外无超参数;s<0 时称 CA-Amp。
    • 偏移路线(式 8,ACE 的仿射修正在本文位点的形式,记 DIM+offset):保持 uDIM,减去良性类自身系数 c = µ−⊤uDIM。Proposition B.5:在行为状态上偏移路线的平均系数是 CA 的 1/√(1−ω²) 倍(触发更强),但在良性状态上保留 ω² 份额的公共模态方差(CA 完全移除);ω≈0 时两者等价,ω 大时偏移用良性代价换效果。

    诊断与算子边界

    • 三个免生成诊断(只需缓存激活与 WU、G):ω 预测 CA 的忠实性收益;η(u) = 行为状态中贪心 token 已被编辑改变的比例,预测 ASR 收益;β± 判断偏置是否足以使文本退化。
    • 容量界(Proposition B.6):编辑的全部效果是长度正比于 gate 的单个向量;若某行为状态沿所有不伤良性状态的方向 gate 都很小,则任何强度都无法在无良性代价下移除它。RQ5 据此检验拒答(少数 token 决定)与情绪(散布全文)是否落在该边界两侧。
  4. 论文做了哪些实验?

    8 模型 144 cell:CA 修复欠触发与坍缩,ω/η/β 生成前预测收益,两个评审对坍缩文本判定相反。

    实验设置

    • 被测模型:Qwen2.5-{0.5B, 3B, 7B}-Instruct、Qwen3-4B-Instruct-2507、Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct、Gemma-2-{2B, 9B}-it,共 8 个;分析在 3 个 pilot(Qwen2.5-7B、Llama-3.1-8B、Gemma-2-9B)上开发,后 5 个模型的诊断与 regime 预测在生成前锁定。
    • 数据:方向用 256 条 AdvBench 对 256 条 Alpaca 的提示末状态校准,重采样 6 个 calibration draw;攻击评测 HarmBench(n=240,去掉 copyright 部分),良性行为 100 条留出 Alpaca,能力 MMLU(1000 题)与 GSM8K(100 题)。
    • 条件:DIM、CA、DIM+offset 三个方向,均 s=1、均在最后一层;一个模型×方向×draw 为一个 cell,主矩阵 8×3×6=144 cell;放大用 s<0(CA-Amp、DIM-Amp)。
    • 指标与评审:ASR 由 HarmBench 分类器(Llama-2-13B)和 Llama-Guard-3-8B 双评审;输出 ≥200 字节且 zlib 压缩比 <0.2 判为退化,主指标 fluent-only ASR 把退化输出计为失败;良性改写率为与未引导答案的 difflib 相似度 <0.5 的比例;成对质量评审 Qwen3-8B 双顺序。
    • 统计:配对提示级 bootstrap(5000 次)与每 draw 精确 McNemar 检验;跨模型相关 n=8。生成贪心、256 新 token。

    主结果

    据 Table 10、Table 11、Table 12(HarmBench,6 draws 均值,HB-F 为 fluent-only ASR):

    表格较宽,可左右滑动

    模型ωDIM HB-FCA HB-FCA−DIM(点)坍缩率 DIM→CA良性改写率 DIM→CA
    Qwen2.5-0.5B.02249.749.7+0.03→359.2→60.0
    Qwen3-4B.0347.47.2−0.30→030.2→30.3
    Qwen2.5-7B.04152.350.1−2.20→035.2→33.8
    Qwen2.5-3B.12538.641.0+2.40→067.5→62.8
    Gemma-2-2B.31529.326.7−2.61→087.5→71.0
    Llama-3.1-8B.33233.662.6+29.0 [22.9, 35.1]0→045.8→33.5
    Llama-3.2-3B.43810.356.7+46.3 [40.3, 52.4]0→044.2→25.7
    Gemma-2-9B.47114.414.0−0.550→173.2→32.8
    • 作者称 CA 在出现失效的模型上修复对应失效:两个 Llama 的 ASR 提升在 6/6 draw、双评审下均显著;其余 6 个模型 ASR 变动至多 2.6 点且从不显著。
    • 良性侧:ω>0.3 的 4 个模型上 CA 比 DIM 多保留 12 到 40 点良性答案;ω<0.13 的 4 个模型差异至多 5 点(Table 12)。
    • 代价:MMLU 逐模型逐方向变动至多 0.7 点,GSM8K 在噪声内(Table 13);24 个 cell 中 23 个的成对净偏好在 ±10 点内(Table 14)。

    RQ1:化简是否精确

    • 用缓存状态、WU、G 预测首 token,与 vLLM 实际输出对比:全部 cell 一致率 96.1%,7 个模型 96.3–99.9%,预测与实测拒答率 Pearson 0.95(Figure 3、Table 9)。
    • 唯一短板 Gemma-2-9B(82.1%):作者解释称 CA 下移除了拒答起始 token,但后续以语义 deflection 形式恢复拒答(见 RQ5)。

    RQ3:改方向还是移原点

    • DIM+offset 的有害 gate 与 CA 之比在 8 个模型上符合预测因子 1/√(1−ω²)(最大误差 0.06,Table 15);其良性 gate 展宽恰好出现在 ω>0.3 的 4 个模型。
    • 攻击强度:HB 评审下 DIM+offset 的 ASR 从不显著低于 CA,在 3 个模型上显著更高(Qwen2.5-7B 高 3.7 点,两个 3B 模型各高 12.4 点);LG 评审下 5 个模型更高、Gemma-2-2B 更低(Table 11)。
    • 良性代价:ω>0.33 的 3 个模型上 DIM+offset 比 CA 多改写 39 到 46 点;唯一明确的质量回退是 Gemma-2-9B 上 DIM+offset 净偏好 −23.5 点(Table 14)。作者结论:CA 不是更强的攻击,而是在 ω 大时保持良性行为的路线。

    RQ4:生成前预测

    • ω 预测良性答案保留量(Spearman 0.98、Pearson 0.90,n=8);η 预测 ASR 增益(Pearson −0.95);两者不可互换(ω 排 ASR 增益仅 Spearman 0.19)。η=0.6 在这 8 个模型上划分两种 regime:低于它的 2 个模型增益 +29.0、+46.3 点,高于它的 6 个落在 [−2.6, +2.4](Figure 6)。
    • 后加 5 模型的锁定 regime 预测 5 中 4;失误的 Gemma-2-2B(标为 ASR 增益)实际保留 16.5 点良性答案而无 ASR 增益,与其 ω=0.32、η=0.98 一致(Table 16)。
    • 坍缩是 β+=1 处的阈值:144 cell 中恰好 6 个 β+>1(全是 Gemma-2-9B 的 DIM,β+=1.03±0.01),平均坍缩率 49.8%;其余 138 个 β+≤0.90,平均坍缩率 0.6%(最大 4.2%)。作者注明只有一个模型跨越,阈值只能定位在 (0.90, 1.03]。

    RQ5:算子的边界

    • Gemma-2-9B 上 CA 移除拒答起始后,240 条中 116 条续写转为 deflection,ASR 停在约 14%;单独拟合的 deflection 方向单独消融无效,逐状态切换两方向与 CA 单用相当(14.2% vs. 13.3%)。作者据容量界称没有 rank-1 方向能承载这一阶段。
    • 情绪概念(happy/sad/angry/afraid):ω 在每个模型内排序 collateral 削减(Spearman 1.00,n=4),但引导本身不行——s=1 时评审情绪平均只动 2.9 点;s=3 时 CA 移除 60% 情绪词但评审情绪只降 19 点,同时改写 53–62% 无关良性答案(Figure 7a、Table 24)。
    • 放大侧:Gemma-2-9B 上 DIM-Amp 在 s=−1 已 31% 坍缩、s=−1.5/−2 达 95–100%,CA-Amp 到 s=−2 保持流畅、s=−3 时 ASR 14.1%;Llama-3.1-8B 上 DIM-Amp 最低 3.3%,CA-Amp 达 0.5%(Table 25)。作者称这是与过度拒答的权衡,不是全面占优。

    评审与基准的盲区

    • 无流畅过滤时,Llama-Guard 给 Gemma-2-9B 的 DIM 输出打 64.8%、CA 18.4%,制造 −46.4 点的伪效应(6/6 draw 显著);加过滤后消失(15.8% vs. 17.3%,不显著)(Table 11)。
    • 同一批退化输出上 HarmBench 分类器判有害 1.7%、Llama-Guard 判 98.3%;流畅输出上两者一致(Figure 8)。
    • MMLU 变动 ≤0.7 点的干预可同时改写多达 88% 的自由形式良性答案(Gemma-2-2B,DIM;Table 12)。

    其他消融与分析

    • 核 MMD 擦除化简为长度重加权 DIM,居中后即 CA(cos ≥ 0.999)(附录 G.2)。
    • 最具判别力的方向(shrinkage LDA,gate AUC 0.95)是最差消融方向:ASR 2.9–23.7%,在全部 pilot 上低于 DIM 与 CA(Table 19)。
    • 公共模态既不是第一主成分(|cos|=0.11–0.22,而 uDIM 为 0.92–0.99)也不是离群坐标效应;按两类合并均值居中会移除信号(Table 20)。
    • 坍缩由强度而非方向局部性决定:Gemma-2-9B 上 DIM 在 s=0.5 坍缩 1%、s=0.75 达 20%、s=1.25 达 83%(Table 21)。
    • 轨迹校准方向、白化方向、deflection 方向均不优于 CA(Table 22);随机方向 ASR 留在基线(Table 19)。
  5. 有什么可以进一步探索的点?

    作者列出两处局限:位点与算子单一、诊断规律样本量小;实验覆盖 8 个开源模型与双评审。

    作者指出的局限与后续方向

    • 位点与算子单一(Section 5):化简只在最后一个残差流、rank-1 消融、贪心解码下成立;采样下 τs 相当于温度,更早层编辑经注意力传播、无闭式解;作者不对中层或加法式引导作主张。
    • DIM+offset 的口径(Section 5):它是 ACE 偏移在本文位点的版本,不是 ACE 作者原设置(凭观察选出的中层)下的 ACE。
    • 小样本规律(Section 5):两条诊断规律只基于 8 个模型;η=0.6 的划分只靠阈值以下 2 个模型;β+=1 的坍缩阈值只有一个模型跨越,只能 bracket 在 (0.90, 1.03]。
    • 部分坍缩起始未被捕捉(附录 F):Gemma-2-9B 在 s=0.75 出现 20% 的部分坍缩,作者写明这一点未被均值指数的阈值捕捉。

    实验覆盖范围

    • 被测模型为 Qwen2.5(0.5B/3B/7B)、Qwen3-4B、Llama-3.1-8B、Llama-3.2-3B、Gemma-2(2B/9B)共 8 个开源指令微调模型,最大 9B(Section 4.1)。
    • 攻击评测为 HarmBench 240 条行为、贪心生成 256 token;校准为每 draw 256 条 AdvBench 对 256 条 Alpaca,共 6 draw(Section 4.1、附录 C)。
    • 评审为 HarmBench 分类器(Llama-2-13B)与 Llama-Guard-3-8B 双评审,质量与情绪评审为 Qwen3-8B;论文未报告评审与人工判断的一致性(情绪评审在 160 条标注故事上准确率 65.6%,附录 C)。
    • 第二概念实验覆盖 4 种情绪×8 模型的诊断,行为实验在 3 个 pilot 模型上进行(附录 H);越狱防御评测为 JailbreakBench 上 4 个留出模板、单一 draw(Table 25)。
    • 论文讨论过条件引导(CAST 类检测器路线)并报告核密度比检测在最后一层相对正则线性方法的优势至多 +0.022、Gemma 上为 −0.046,作者据此未采用该路线(附录 G.2)。
  6. 总结一下论文的主要内容

    末层消融是余弦门控的 logit 偏置;CA 投影掉公共模态,闭式修复欠触发、误伤与坍缩。

    一篇关于推理期激活编辑的分析与方法论文:作者为 directional ablation 的不稳定表现给出精确机制,并据此提出闭式修复 Centered Ablation(CA)。

    • 问题:消融拒答方向是关闭模型拒答的标准手段,但在有的模型上几乎不触发(Llama-3.2-3B 消融后 86% 回答仍以拒答开头),在有的模型上坍缩成重复(Gemma-2-9B 一半提示词退化),以往没有机制解释。
    • 方法:在最后一个残差流处,消融恰好是 footprint 向量乘以余弦门控的 logit 偏置(Proposition 3.1);门控从原点量起而末层状态沿公共模态聚集,交叠 ω 同时解释欠触发、良性误伤与坍缩。CA 把公共模态从方向中投影掉,只需两个样本均值和一次投影。
    • 关键结果:Llama-3.1-8B 与 Llama-3.2-3B 上 fluent-only ASR 分别 +29.0、+46.3 点(6/6 draw 显著);Gemma-2-9B 坍缩率 50%→1% 且 ASR 不变;ω>0.3 的 4 个模型上比 DIM 多保留 12–40 点良性答案,比 ACE 式偏移路线多保留 39–46 点;MMLU 变动 ≤0.7 点。
    • 诊断:ω 预测忠实性收益(Spearman 0.98)、η 预测 ASR 收益(Pearson −0.95)、β+>1 标记唯一坍缩模型;后加 5 个模型的 regime 在生成前锁定,5 中 4。
    • 评测发现:同一批坍缩文本,HarmBench 分类器判有害 1.7%、Llama-Guard 判 98.3%,无流畅过滤时可制造 46 点伪效应;MMLU 不变可掩盖 88% 的良性改写。
    • 作者结论:引导前先算 ω、η、β;ω 大用 CA、重效果用偏移;η 低时不要指望消融有效;评测应报告 fluent-only 成功率、坍缩率和自由形式忠实度。作者同时注明结论限于末层 rank-1 消融与贪心解码,诊断规律基于 8 个模型。

相关论文

共同使用 Alpaca
再看 3 篇
共同使用 Alpaca
阅读原文huggingface.co