J-Anchor:通过 J 空间选择性拒答恢复防御预填充攻击
J-Anchor: Defending Against Prefill Attacks via J-Space Selective Refusal Restoration
作者提出 J-Anchor:用 J-lens 在 prefill 攻击前锚定拒答状态并选择性恢复,固定 prefill 下 ASR 降至最高 3.8%(Table 1)。
攻击者向对齐的开源指令模型发起 prefill 攻击:固定 assistant 回复的前 k 个 token(固定 prefill 或 k=500 的 deep prefill),诱导模型续写有害内容;防御方在推理时无训练地干预隐藏状态。
- Prefill 攻击固定 assistant 回复开头,可让安全对齐模型续写有害内容。作者想弄清攻击过程中模型内部拒答与有害性信号如何变化,并据此设计防御。
- 用 Jacobian lens 把隐藏状态映射到词汇空间,构造拒答与有害性子空间;以 assistant header 处的攻击前信号为锚点,经请求级门控后,在 prefill 和解码期间只恢复低于目标的拒答分量(J-Anchor,无需训练)。
- 在四个开源模型上,固定 prefill 下 J-Anchor 的 ASR 最高 3.8%(Table 1),deep prefill(k=500)下三模型最高 2.5%(Table 2);良性 ORR 接近基座模型,GSM8K/MATH500 准确率接近未防御模型(Figure 3)。
- 论文未专门讨论局限。实验仅覆盖四个开源指令模型、两类 prefill 攻击;未测试针对 J-Anchor 的自适应攻击;门控阈值与 ρ 按模型人工设定;论文未报告多次重复或方差。
- 被测模型
- Llama-3.1-8B-InstructGemma-4-E4B-ITQwen3.5-4BQwen3-8B
- 基准
- AdvBenchStrongREJECTHarmBenchXSTestOKTestGSM8KMATH500WildJailbreak
- 指标
- ASRORRaccuracy
研究者提出无需训练的推理时防御方法 J-Anchor,用于对抗预填充越狱。预填充越狱会让安全对齐模型接续攻击者构造的不安全助手前缀,即使同一请求在正常解码下会被拒答。作者用 Jacobian 视角追踪模型内部的有害与拒答信号,发现拒答状态侵蚀现象:两类信号都随预填充推进而减弱,但拒答信号到预填充结束时降至良性基线,有害信号在后续生成中仍高于良性基线、可被检测。J-Anchor 以攻击前的有害与拒答信号作为针对单个请求的锚点,在预填充和解码阶段于 J 空间选择性恢复被削弱的拒答。论文报告该方法在固定与深度预填充攻击下于不同模型家族上大幅降低攻击成功率,同时基本保留良性行为与推理能力,消融实验显示在 J 空间拒答子空间做针对性恢复是关键。
深度解读
这篇论文试图解决什么问题?
如何防御 prefill 越狱:作者称拒答信号在 prefill 中比有害性信号衰减更快,据此设计 J-Anchor 防御。
核心问题:如何防御 prefill 越狱攻击——攻击者固定 assistant 回复的开头,就能让安全对齐模型续写它本会拒绝的有害请求。
- 问题场景:作者称,prefill 攻击不改变请求本身,只提供 assistant 回复的开头,即可诱导有害续写(引言);已有研究发现模型即使不拒绝,内部仍保留有害性表征,作者希望弄清从初始安全状态到有害续写之间发生了什么。
- 现有方法不足:作者称,已有防御或训练模型从有害续写中恢复、或修改解码概率、或把隐藏状态导向拒答(第 2.2 节);JADR 等在生成前或解码中做安全检查,但没有利用 prefill 前的状态来指导整个前缀处理与生成过程的干预。
- 核心观察:作者用 J-lens 追踪发现"refusal-state erosion":prefill 加深时拒答信号衰减明显快于有害性信号,到自由生成时拒答可降至良性基线,而有害性仍可检测(Figure 2(a));失败的攻击在解码时表现出更强的拒答回升。
- 论文提出:J-Anchor,一个 training-free 的推理时防御:以 assistant header 处的攻击前拒答/有害性信号为请求级锚点,在 prefill 与解码期间于 J-space 选择性恢复被削弱的拒答分量。
- 威胁模型:
- 攻击者目标:通过对齐模型续写有害请求的有害内容。
- 攻击者能力:固定 assistant 回复的前 k 个 token——固定 prefill(统一短前缀)或 deep prefill(k=500,由 abliterated 模型生成,附录 A)。
- 受害系统:开源指令微调模型(可控制 prefill 的部署场景);防御方可在推理时读取并修改隐藏状态,不微调权重。
有哪些相关研究?
相关工作分三组:潜表征与 lens 工具、越狱攻击、推理时防御;J-Anchor 定位于用攻击前状态指导全程干预。
潜表征与可解释性工具
- logit lens / tuned lens(nostalgebraist 2020;Belrose et al. 2023)——把输出投影或学习到的仿射读出应用于中间激活,得到词汇级读出。论文指出,可恢复性本身不能说明恢复的信息是否影响行为(引 Elazar et al. 2021)。
- Jacobian lens(J-lens)(Gurnee et al. 2026)——用平均 Jacobian 把中间表征映射到词汇空间;本文直接使用其发布的 J-lens 矩阵,不做修改。
- JADR(Prosvirnin et al. 2026)——用 J-space 在生成前暴露模型的危险识别,并发现生成前的危险识别可与之后的拒答行为分离。
越狱攻击
- 优化类越狱:GCG、AutoDAN、AdvPrefix(Zou et al. 2023;Liu et al. 2024;Zhu et al. 2026)——优化对抗提示词或目标续写。
- Prefill 攻击(Vega et al. 2023;Andriushchenko et al. 2025;Qi et al. 2025)——直接固定 assistant 开头 token,绕过集中在生成起始处的拒答行为;Struppek et al. (2026) 称开源权重模型对此存在系统性脆弱。
安全对齐与防御
- 训练与对齐:SFT、RLHF、DPO(Ouyang et al. 2022;Rafailov et al. 2023)对齐后仍可被越狱(Wei et al. 2023)。
- 推理时防御:训练恢复、安全感知解码、激活导向拒答(Qi et al. 2025;Xu et al. 2024;Arditi et al. 2024;Lee et al. 2025;Sheng et al. 2026);Any-Depth Alignment 与 SafeProbing 在解码中做安全检查(Zhang et al. 2026a;Zhao et al. 2026b)。
- 基线与基准:对比基线为 Refusal Vector、CAST、AlphaSteer、ADA-RK、ADA-LP;攻击基准为 AdvBench(100)、StrongREJECT(313)、HarmBench 标准行为子集(159),良性基准为 XSTest(250)、OKTest(300),推理基准为 GSM8K(100)、MATH500(100)(第 5.1 节)。
作者定位:J-Anchor 与上述工作不同之处在于,用 prefill 前测得的有害性与拒答状态指导整个前缀处理和生成过程的干预,在同一词汇空间(J-space)内测量并恢复拒答,且不需要微调或单独训练有害性检测器(第 2.2 节)。
论文如何解决这个问题?
J-Anchor:J-lens 构造拒答/有害性子空间,以攻击前锚点定目标,门控后在 prefill 与解码中只恢复亏缺的拒答分量。
整体思路:用 J-Anchor 在 J-lens 的词汇空间中测量拒答与有害性信号,把 assistant header 处的攻击前状态作为请求级锚点,在 prefill 与解码期间只把低于目标的拒答分量补回。方法无需微调,也不用单独训练分类器。
问题设定与 J-lens
- Prefill 攻击形式化:请求从 t=0 开始,assistant 角色 token(锚点)在 t=a,回复从 t=p 开始;攻击固定前 k 个回复 token,模型从 t=p+k 自由生成(式 (1)–(3))。
- J-lens:对每层用平均 Jacobian 把隐藏状态映射到词汇分布,JLensℓ(h) = softmax(WU Norm(Jℓ h)),即中间状态的词汇级读出;J-lens 矩阵来自 Gurnee et al. (2026),不加修改。
拒答与有害性子空间(第 4.1 节)
- 词汇表:拒答词集 V_R(sorry、cannot、unable 等多语言词)与有害性词集 V_H(illegal、harmful 等及词干),按各模型 tokenizer 扩展,完整词表在附录 B。
- 子空间构造:取 unembedding 对应行、居中后经 J-lens 映到残差流,做 SVD;拒答保留解释至少 90% 平方奇异值能量的最小秩,有害性只保留首奇异向量(r_H=1)。
- 良性校准:用 WildJailbreak 的 500 条 vanilla-benign 提示词及参考回复估计各层各轴的良性均值与标准差,把投影标准化为 z 分数(z=0 对应良性均值);校准统计在评测攻击前固定。
请求级门控(第 4.2 节)
- 门控分数:在开发数据上按 AUROC 选出 3 个门控层,每层取锚点处首拒答轴与首有害性轴 z 分数的较大值,跨层平均得 g。
- 启用条件:仅当 g > τ 时启用 J-Anchor,否则由基座模型无干预生成;所有模型共用 τ=0.75。
锚点触发的拒答恢复(第 4.3 节)
- 恢复目标:每条拒答轴的目标为 ρ max(za,R,i, za,H,1),即自身锚点分数与有害性锚点分数的较大者乘以强度 ρ;目标 ≤0 的轴不纠正。
- 分阶段纠正:prefill 期间目标为正的轴在低于目标时纠正;解码期间还要求当前分数低于该轴自身锚点分数才纠正,回升后停止、再跌落再启用;更新只沿拒答轴,有害性轴仅用于门控与目标。
- 关键参数:干预层为模型深度 40%–85% 之间有 J-lens 的所有层;ρ 对 Llama-3.1-8B、Gemma-4-E4B-IT、Qwen3.5-4B、Qwen3-8B 分别为 3、2、3、3;锚点读在 assistant 角色 token 处(第 5.1 节)。
论文做了哪些实验?
四模型三攻击基准:固定 prefill 下 J-Anchor 的 ASR 最高 3.8%,deep prefill 下三模型最高 2.5%,ORR 与推理能力大体保持。
实验设置
- 被测模型:Llama-3.1-8B-Instruct、Gemma-4-E4B-IT、Qwen3.5-4B(主文),Qwen3-8B(附录 D);Qwen3 系关闭 thinking 模式。
- 数据集:攻击基准 AdvBench(100 条,与 Zhang et al. 2026a 同一测试集)、StrongREJECT(313)、HarmBench 标准行为子集(159);良性基准 XSTest 安全子集(250)、OKTest(300);推理基准 GSM8K(100)、MATH500(100)。
- 基线:Refusal Vector、CAST、AlphaSteer(激活导向类),ADA-RK、ADA-LP(针对 deep prefill 设计);† 标记的方法需用带标注安全数据离线学习。
- 指标与评审:ASR 由 HarmBench-Llama-2-13b-cls 判定新生成续写是否展现目标有害行为;ORR 用 WildGuard 的拒答预测;推理用精确答案匹配;附录 E 用 DeepSeek-Flash 复评 ASR/ORR 与数学准确率。
- 攻击构造:固定 prefill 为统一短前缀;deep prefill 由 abliterated Gemma-3-27B-IT 生成后取各目标模型 tokenizer 下前 500 个 token(附录 A)。
- 解码与开发数据:贪心解码,攻击基准最多 512 新 token;门控开发集为 420 条 AdvBench 训练提示词(与测试集无重叠)加 100 条良性提示词;论文未报告多次重复。
主结果
固定 prefill 下的 ASR(%)与良性 ORR(%),据 Table 1:
表格较宽,可左右滑动
模型 方法 StrongREJECT AdvBench HarmBench XSTest OKTest Llama-3.1-8B Base (Prefill) 65.2 65.0 54.1 N/A N/A Llama-3.1-8B J-Anchor 1.0 0.0 3.8 7.6 23.3 Gemma-4-E4B-IT Base (Prefill) 82.7 89.0 80.5 N/A N/A Gemma-4-E4B-IT J-Anchor 0.0 0.0 0.6 16.0 26.7 Qwen3.5-4B Base (Prefill) 77.3 79.0 64.2 N/A N/A Qwen3.5-4B J-Anchor 0.3 0.0 0.0 6.4 17.0 - 作者称 J-Anchor 在九项设置中把 ASR 降至最高 3.8%,其中五项为 0%;ORR 接近 clean 模型(Llama-3.1-8B clean 为 7.6/22.0)。
- 例外:ADA-LP 在 Llama-3.1-8B 上 ASR 更低(0.3/0.0/0.0),J-Anchor 的 ORR 与之相当;ADA-RK 的 ASR 也低但 ORR 达 40.8/47.7。
- CAST 等激活导向基线 ORR 低但多数攻击仍成功(如 CAST 在 Llama-3.1-8B 上 ASR 43.0–53.4)。
Deep prefill 鲁棒性(RQ2)
- 结果:k=500 时基座 ASR 升至 83.0%–94.0%;J-Anchor 在三模型九项设置中最高 2.5%(Llama-3.1-8B 的 HarmBench),Gemma-4-E4B-IT 三项全为 0.0%(Table 2)。
- 对比:ADA-RK 在 Llama-3.1-8B HarmBench 上为 14.5%,ADA-LP 在 Gemma-4-E4B-IT 上为 6.9–8.9%;Qwen3-8B 上 J-Anchor 的 StrongREJECT ASR 为 11.5%,高于 ADA-LP 的 0.0%(Table 5)。
- 作者解读:锚定拒答状态在长对抗前缀后仍保持有效。
推理能力与评审稳健性(RQ3 与附录 E)
- 推理:Figure 3 显示 J-Anchor 在 GSM8K/MATH500 上准确率接近未防御基座(虚线);作者称 Refusal Vector 等导向基线准确率下降更大(图中文字未给出具体数值;Table 6 中 DeepSeek-Flash 评审下 Refusal Vector 在 Llama-3.1-8B 的 GSM8K 为 4.0%,J-Anchor 为 87.0%)。
- 换评审模型:DeepSeek-Flash 评审下,J-Anchor 固定 prefill ASR 最高 2.5%、deep prefill 最高 9.4%(Qwen3-8B HarmBench),四模型一致(Table 6)。
机制消融(RQ4)
- 干预方向:随机方向复用同一恢复规则与门控,在 Llama-3.1-8B、Qwen3.5-4B、Qwen3-8B 上固定 prefill 残留 ASR 34.5%–49.5%、deep prefill 53.0%–80.5%;Gemma-4 上随机方向也降到 0.3%(Table 3)。
- 表征空间:logit-lens 变体(J=I)在 deep prefill 下 ASR 升至 79.9%(Llama-3.1-8B)、31.9%(Qwen3.5-4B);hidden-state 变体与 J-Anchor 接近(Table 3)。
- 作者解读:效果来自干预方向与 J-lens 表征,而非扰动本身。
其他消融与分析
- ρ 敏感度:Figure 4(a) 显示增大 ρ 使 ASR 趋向 0,但 XSTest ORR 在更大强度下上升(τ=0.75)。
- τ 敏感度:Figure 4(b) 显示 ρ=2 时,所测门控阈值下性能稳定。
- 失败攻击的信号:作者称最终失败的攻击在解码时表现出更强的拒答回升(引言,未给出数值)。
有什么可以进一步探索的点?
论文未专门讨论局限;实验覆盖四个开源模型、两类 prefill 攻击与两种评审,未报告自适应攻击与重复次数。
作者指出的局限与后续方向
论文未专门讨论局限。Conclusion 中作者仅提出方向性看法:维持和恢复潜在拒答状态可能是鲁棒 LLM 安全的一个有前景方向(第 6 节)。
实验覆盖范围
- 被测模型:Llama-3.1-8B-Instruct、Gemma-4-E4B-IT、Qwen3.5-4B、Qwen3-8B 共四个开源指令模型,均为开放权重;论文未在闭源模型上实验(第 5.1 节、附录 D)。
- 攻击类型:仅固定 prefill(统一前缀)与 deep prefill(k=500,abliterated Gemma-3-27B-IT 生成)两类;论文未报告针对 J-Anchor 的自适应攻击实验(附录 A)。
- 评审方式:主评审为 HarmBench-Llama-2-13b-cls(ASR)与 WildGuard(ORR),附录 E 用 DeepSeek-Flash 复评;论文未报告评审与人工判断的一致性。
- 样本与重复:攻击基准 100–313 条,良性基准 250–300 条,推理基准各 100 条;论文未报告多次重复或方差(第 5.1 节)。
- 超参数来源:门控层按开发集 AUROC 选取,τ=0.75 全模型共用,ρ 按模型取 2 或 3;hidden-state 消融变体的 ρ、τ 通过在固定 prefill ASR 与 XSTest ORR 上扫描选定(第 5.1、5.2 节)。
总结一下论文的主要内容
J-Anchor 以攻击前拒答状态为锚、在 J-space 选择性恢复拒答,固定 prefill 下 ASR 最高 3.8%,良性行为大体保持。
一篇针对 prefill 越狱的推理时防御论文,附带对攻击机理的 J-lens 分析。
- 问题:prefill 攻击固定 assistant 回复开头即可让对齐模型续写有害内容;作者追问攻击过程中拒答与有害性信号如何演变。
- 机理发现:作者称存在"refusal-state erosion"——prefill 加深时拒答信号衰减明显快于有害性信号,自由生成时拒答可降至良性基线而有害性仍可检测(Figure 2(a))。
- 方法:J-Anchor 用 J-lens 构造词汇化的拒答/有害性子空间,以 assistant header 处的攻击前信号为请求级锚点,门控后在 prefill 与解码期间只恢复低于目标的拒答分量;无需微调或额外训练分类器。
- 主结果:固定 prefill 下,J-Anchor 在 Llama-3.1-8B、Gemma-4-E4B-IT、Qwen3.5-4B 三模型九项设置中 ASR 最高 3.8%、五项为 0%(Table 1);deep prefill(k=500)下三模型最高 2.5%(Table 2)。
- 代价与例外:ORR 接近 clean 模型(如 Llama-3.1-8B 上 7.6%/23.3% 对 7.6%/22.0%),GSM8K/MATH500 准确率接近基座(Figure 3);Qwen3-8B deep prefill 的 StrongREJECT ASR 为 11.5%,高于 ADA-LP 的 0.0%(Table 5)。
- 作者结论:保持并恢复潜在拒答状态是抵御 prefill 越狱的有前景路线;消融显示效果依赖于 J-space 拒答子空间的定向恢复,而非扰动本身(Table 3)。