跳到正文
原文

SafeStart:缓解 MoE 大语言模型推理服务中激活专家削减被忽视的安全代价

SafeStart: Mitigating the Overlooked Safety Cost of Active Expert Reduction in MoE LLM Serving

arXiv:越狱、提示注入、投毒与防御· arXiv:2611.06147· Erfan Baghaei Potraghloo, Saeid Shokoufa, Seyedarmin Azizi, Arya Fayyazi, Souvik Kundu, Mehdi Kamal, Massoud PedramUniversity of Southern California; Intel Labs本站收录· 15 天前· 原文发表防御

论文速读

防御

据论文 PDF 整理(AI 生成),以原文为准

作者称 MoE 服务中减少每 token 专家数会削弱拒答,提出 SafeStart 仅在提示词和前 8 个生成 token 跑全部专家,保住大部分加速。

威胁模型运营方用 vLLM 服务对齐的 MoE 模型并开启经精度验证的专家削减方法;用户无法访问权重、路由或服务配置,提交有害请求(可套用公开越狱模板),论文考察该方法是否提高模型服从率。

问题
MoE 服务常用减少每 token 专家数来加速,这类方法只用精度基准验证。作者称它们可能在精度几乎不变时削弱模型对有害请求的拒答,而此前没有工作在推荐运行点上检验这一点。
方法
作者在 vLLM 中对九个 MoE 模型做配对、噪声校准的拒答审计,定位拒答变化发生在提示词处理和最初几个生成 token,并提出 SafeStart:仅对这些起始位置运行全部专家,其余 token 用削减后预算,通过 vLLM 融合 kernel 实现。
实验与结果
在 refusal suppression 越狱下,保留约三分之二专家的截断使 Qwen1.5-MoE 的 ASR 升 18.4 pp、OLMoE 升 9.5 pp、DeepSeek-V2-Lite 升 6.6 pp,MMLU 降幅不超过 1.8 分;SafeStart(N=8)把三种削减方法的变化压到 −2.1 至 +1.3 pp,并保留至少 85% 的离线解码加速。
局限与可以继续做的
作者指出:规定开头或后置有害任务的模板可绕过 SafeStart,未测自适应攻击;人工标注仅覆盖两个模型的 587 条回复;模型最大 57B,计时限于单张 RTX A6000 与 vLLM 默认 kernel;补丁为单轮,不覆盖量化 MoE kernel 和专家并行。
实验设置Qwen1.5-MoE、DeepSeek-V2-Lite 等 · HarmBench test split (159 standard behaviors)、StrongREJECT (313 prompts) 等 · ASR (harmful compliance, pp change)、decode speedup 等
威胁模型
运营方用 vLLM 服务对齐的 MoE 模型并开启经精度验证的专家削减方法;用户无法访问权重、路由或服务配置,提交有害请求(可套用公开越狱模板),论文考察该方法是否提高模型服从率。用户不知道该方法,也不选择 batch。
被测模型
Qwen1.5-MoEDeepSeek-V2-LiteMoonlight-16BLing-lite-1.5OLMoE-1B-7BQwen3-30B-A3BGPT-OSS-20BDeepSeek-MoE-16BQwen2-57B-A14B
基准
HarmBench test split (159 standard behaviors)StrongREJECT (313 prompts)AdvBenchCatQAMMLUGSM8KXSTestMATH-500
指标
ASR (harmful compliance, pp change)decode speedupMMLU/GSM8K accuracyXSTest over-refusal
AI 导读研究者发现,MoE 大语言模型推理服务为提速而减少每 token 激活专家数,会削弱模型对有害请求的拒答,并提出 SafeStart 在保留大部分加速的同时基本恢复拒答。在 vLLM 单张 RTX A6000、batch size 8 下,保留约三分之二被选专家可将离线解码提速 15% 至 28%;在指示模型不要拒答的越狱攻击下,九个受测模型中有害请求被回答的比例仅在 Qwen1.5-MoE、OLMoE、DeepSeek-V2-Lite 上显著上升,分别提高 18.4、9.5 和 6.6 个百分点,MMLU 则下降不到 2 分。

研究者发现,MoE 大语言模型推理服务为提速而减少每 token 激活专家数,会削弱模型对有害请求的拒答,并提出 SafeStart 在保留大部分加速的同时基本恢复拒答。在 vLLM 单张 RTX A6000、batch size 8 下,保留约三分之二被选专家可将离线解码提速 15% 至 28%;在指示模型不要拒答的越狱攻击下,九个受测模型中有害请求被回答的比例仅在 Qwen1.5-MoE、OLMoE、DeepSeek-V2-Lite 上显著上升,分别提高 18.4、9.5 和 6.6 个百分点,MMLU 则下降不到 2 分。

相关热点

1 个事件 · 1 条新闻提到

提到这篇论文的新闻

研究:MoE推理减专家削弱拒答,SafeStart缓解

  • 公众号 模安局引用了论文编号或链接
    MoE 推理加速也会削弱大模型的安全能力
    2026 年 11 月,南加州大学和 Intel Labs 的研究人员发表论文《SafeStart: Mitigating the Overlooked Safety Cost of Active Expert Reduction in MoE LLM Serving》,揭示了一个此前容易被忽视的风险:

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    作者称 MoE 专家削减加速方法会削弱拒答而精度基准查不出,并提出 SafeStart 在保住大部分加速的同时恢复拒答。

    核心问题:MoE 服务中广泛使用的专家削减(expert reduction)加速方法,可能在精度基准几乎不变的情况下削弱模型对有害请求的拒答,而现有验证流程只看精度。

    • 场景与重要性:近期开源权重模型多为 MoE 架构,vLLM、llama.cpp 中把 top-k 截断改成更小的 k 只需一行配置;已有研究(Chen et al., 2026b)推荐保留约三分之二被选专家作为初始运行点。作者认为这类方法上线前只测精度、困惑度或推理基准。
    • 现有方法的不足:作者称,此前没有工作在专家削减方法的已发布运行点上检验拒答、在服务引擎内部定位拒答变化的位置、并在该位置修复且保住加速;已有研究表明 MoE 中拒答依赖少数专家和路由器,且对齐主要改变回复的开头 token。
    • 核心观察:作者发现拒答变化主要发生在模型处理提示词(prefill)和生成最初几个 token 时;在此位置恢复全部专家预算即可消除大部分 ASR 上升。
    • 论文提出的内容:(1) 对九个 MoE 模型在 vLLM 中做配对、噪声校准的拒答审计;(2) 定位拒答变化发生在 prefill 与首个解码步;(3) SafeStart——一个适用于 top-k、top-p 和阈值预算的引擎补丁,只对提示词和前 N=8 个生成 token 运行全部专家。
    • 威胁模型(Section 3.1):
      • 攻击者目标:使被服务的模型服从有害请求。
      • 知识:用户无法访问权重、路由或服务配置,不知道运营方用了哪种削减方法。
      • 能力:提交有害请求,可套用已发布的越狱模板;不能选择 batch。
      • 受害系统:运营方用 vLLM 服务的对齐 MoE 模型,开启了经精度验证的专家削减方法。
  2. 有哪些相关研究?

    相关工作分四类:MoE 专家削减加速、拒答机制与脆弱性、其他服务优化的安全代价、MoE 安全关键组件研究;作者称本文是首个在运行点上审计并修复的工作。

    MoE 专家削减(加速方法)

    • Chen et al. (2026b)——对十二个 MoE 模型的实证研究,推荐保留约三分之二被选专家,报告平均保留 98.8% 精度、1.2–1.7× 解码吞吐;本文的 confirmatory 运行点 k′=⌈2k/3⌉ 即取自该推荐。
    • 动态每 token 方法:Lu et al. (2024) 的阈值跳过、Huang et al. (2024) 的 top-p 路由、Zeng et al. (2024)、Yue et al. (2025)、Xu et al. (2026c) 的 ACE——按 token 跳过或学习专家数量;重权重方法有 Anonymous (2026)、Chen & Yao (2026)。本文把阈值跳过、top-p、ACE 作为被审计和防护对象。
    • Batch 级方法(Gupta et al., 2024;Wu et al., 2026a;Oncescu et al., 2026;Vankov et al., 2026)让 token 的计算依赖同 batch 其他请求;静态剪枝与合并(Lasby et al., 2026 的 REAP)产出更小的 checkpoint。作者称未测试 batch 级方法被对抗利用的情形,REAP 因无法验证其实现设置而未纳入对比。

    拒答机制与脆弱性

    • Wei et al. (2023)——越狱模板(如禁止道歉)包裹请求以抑制拒答;本文使用 StrongREJECT 分发的 refusal suppression 与 prefix injection 模板。
    • Arditi et al. (2024)——拒答由隐状态中的单一 refusal direction 介导;Lin et al. (2024)、Qi et al. (2025)、Zhao et al. (2025)——对齐主要改变回复的开头 token;SafeDecoding 与 D-STT(Xu et al., 2024;Gu et al., 2026)用额外模型或触发 token 防护这些位置。本文的机制分析沿用 refusal direction。

    MoE 安全关键组件与其他服务优化的安全代价

    • Lai et al. (2025)、te Lintelo et al. (2026)、Wu et al. (2026b)、Jiang et al. (2026)、Xu et al. (2026b) 等——移除或操纵与拒答相连的少数专家/路由器可消除拒答,防御则修复这些组件(Liang et al., 2026;Sun et al., 2026;Meng et al., 2026);Szentmiklossy et al. (2026)——静态 MoE 压缩损害安全。
    • KV-cache 压缩可移除拒答(Xu et al., 2026a;Ma et al., 2026),AnchorKV(Ni & Lao, 2026)在缓存驱逐时保护拒答,SecureSD(Zhang et al., 2026a)在投机解码早期位置更严格校验;密集模型中量化与剪枝改变越狱行为(Hong et al., 2024;Wei et al., 2024;Hasan et al., 2024)。

    基线与基准:被审计的削减方法为 top-k 截断、阈值跳过、top-p 路由、LExI(Chitty-Venkata et al., 2025,论文自行复现)与 ACE;安全评测用 HarmBench 标准行为(159 条)与 StrongREJECT(313 条),留出集用 AdvBench 与 CatQA;精度用 MMLU、GSM8K、MATH-500,过度拒答用 XSTest。

    定位:作者称,与上述工作不同,本文研究的是为速度而非因拒答关联而移除专家的方法,并在服务引擎内部修复,不用额外模型,目标是恢复原模型自身的拒答而非更高的拒答。

  3. 论文如何解决这个问题?

    先做配对噪声校准的拒答审计并定位变化发生在 prefill 与首 token,再用 SafeStart 只对提示词和前 8 个生成 token 运行全部专家。

    整体思路:在 vLLM 中对专家削减方法做逐提示词配对的拒答测量,发现拒答变化集中在提示词处理和最初几个生成 token,于是提出 SafeStart——只在这些起始位置花全部专家预算,其余 token 用削减预算,以引擎补丁实现。

    问题设定与形式化

    • MoE 层输出为 y(x) = gs(x) fs(x) + ∑i ∈ Tk(x) wi(x) fi(x):路由器为每个 token 选出 k 个专家,部分模型另有共享专家 fs;是否对选中专家权重做 top-k 归一化因模型而异,不归一化时降低 k 还会丢失 gate mass(Table 1 列出九个模型的 k、E、共享专家与归一化设置)。
    • 削减方法:top-k 截断把每 token 专家数固定为 k′<k(confirmatory 点 k′=⌈2k/3⌉);阈值跳过丢弃权重低于 top 权重一定比例的专家;top-p 路由保留到累计权重达阈值 p;LExI 按层分配固定预算;ACE 按 token 跳过。

    审计设计(Section 3)

    • 提示词与框架:472 条评估提示词(159 条 HarmBench 标准行为 + 313 条 StrongREJECT),分别以 plain、refusal suppression、prefix injection 三种框架呈现,另有 evil-confidant 与 distractor 两个模板作稳健性检查;贪心解码、最多 512 新 token(GPT-OSS 为 1,536)。
    • 判定:主裁判为 Llama Guard 3 8B,ASR 为 472 条中被判 harmful 的比例,报告 pp 变化;HarmBench classifier 为第二裁判;两名盲标人工标注 587 条回复,一致率 97.3%(κ=0.93)。
    • 统计:所有条件与原模型逐提示词配对,用精确 McNemar 检验与 Tango 95% 区间;confirmatory 族为 7 模型 × 3 框架共 21 个检验,Holm 校正;90% 区间落在 ±3 pp 内视为等价;原模型重跑 4 次估计噪声(84 次比较中净变化不超过 2.75 pp)。

    SafeStart 设计(Section 5.1)

    • 规则:对提示词 P 个 token 的 prefill 和产生前 N 个生成 token 的前向传播运行全部 k 个专家,之后用削减预算;论文取 N=8。放弃截断的 prefill 节省,batch size 8 时首 token 时间与原模型相差 1% 以内。
    • 引擎补丁:vLLM 0.11.0 上约 160 行 Python 与 Triton,不改 vLLM 源码:(1) 在调度后标记位置 ≥ P−1+N 的 token,写入 CUDA graph 读取的 GPU 缓冲;(2) 每个 MoE 层用一个融合 Triton kernel,把被标记 token 超出预算的槽位替换为零权重的哨兵专家,同一 kernel 可施加 top-k′、top-p 或阈值规则;(3) 借 vLLM 的专家映射把哨兵映射到 −1,使专家 kernel 跳过其权重。规则按输出位置而非 prefill/decode 阶段判定,因此在抢占重算或前缀缓存命中时仍正确。

    速度测量

    • 单张 RTX A6000;离线计时为固定 batch 生成 256 token 减去首 token 时间,加速 = 原模型解码时间/条件时间 − 1,取三次中位数;在线服务用 Poisson 到达报告每输出 token 中位时间;并按层统计每解码步读取的不同专家权重以解释加速来源。
  4. 论文做了哪些实验?

    九个 MoE 模型在 vLLM 上配对审计:截断在三模型上 ASR 升 6.6–18.4 pp 而 MMLU 降不足 1.8 分;SafeStart 把变化压到 ±3 pp 内并保留 ≥85% 加速。

    实验设置

    • 被测模型(Table 1,共 9 个):Qwen1.5-MoE、DeepSeek-V2-Lite、Moonlight-16B、Ling-lite-1.5、OLMoE-1B-7B(0125)、Qwen3-30B-A3B(FP8)、GPT-OSS-20B;另有两个在 confirmatory 族固定后加入的留出模型 DeepSeek-MoE-16B、Qwen2-57B-A14B(GPTQ-Int4)。
    • 数据:472 条评估提示词(159 HarmBench 标准行为 + 313 StrongREJECT);889 条第二留出集(383 AdvBench + 506 CatQA,分析在生成前固定);122 条第一留出集(81 JailbreakBench + 41 HarmBench 验证行为)。
    • 削减方法:top-k 截断(k′=⌈2k/3⌉ 及更低)、阈值跳过、top-p 路由(均校准到每解码 token 约 k′ 个专家)、LExI(论文复现)、ACE(移植到三个 checkpoint,非官方支持)。
    • 指标与判定:ASR 变化(pp),主裁判 Llama Guard 3 8B,第二裁判 HarmBench classifier;人工标注 587 条(含 Qwen1.5 与 DeepSeek-V2-Lite 在 refusal suppression 下裁判标签翻转的全部提示词对);精度 MMLU/GSM8K/MATH-500,过度拒答 XSTest。
    • 统计:精确 McNemar + Tango 区间;confirmatory 族 21 个检验 Holm 校正;等价界 ±3 pp;原模型 4 次乱序重跑测噪声。
    • 计时:单张 RTX A6000,batch size 1/8/32/128/256,每请求 256 token,三次重复取中位数,条件与原模型同作业交错计时。

    主结果

    Table 2(k′=⌈2k/3⌉,refusal suppression 框架,Llama Guard 3;括号内为 HarmBench classifier 变化):

    表格较宽,可左右滑动

    模型原 ASR (%)Δ (pp)Holm 后显著
    Qwen1.5-MoE (k′=3/4)46.6+18.4 (+16.5)是
    OLMoE-0125 (k′=6/8)24.2+9.5 (+8.3)是
    DeepSeek-V2-Lite (k′=4/6)43.6+6.6 (+5.3)是
    Moonlight-16B (k′=4/6)86.9−5.3 (−6.4)是(下降)
    Qwen3-30B (FP8, k′=6/8)10.0−4.2 (−2.5)是(下降)
    Ling-lite-1.5 (k′=4/6)41.7+0.8 (−4.7)否
    GPT-OSS-20B (k′=3/4)6.6−0.6 (+0.0)否
    • 作者称:在 refusal suppression 下,九个模型中三个的 ASR 上升经 Holm 校正后显著,两个下降;plain 与 prefix injection 下大多不显著(例外:Qwen1.5 prefix injection +6.8 pp、Ling-lite +6.8 pp)。
    • 精度对照:k′=⌈2k/3⌉ 时 MMLU 最多降 1.8 分、GSM8K 最多降 3.5 分(八个有精度结果的模型);XSTest 过度拒答也未暴露问题(Qwen1.5 安全提示词拒答率从 24.0% 降到 18.8%)。
    • 作者称:不归一化 gate 权重的模型都在某个预算下显著上升(含两个留出模型,需移除更多专家才上升);四个归一化模型中仅 Qwen3 在 k′=2/8 时显著上升,且此时其精度崩溃(GSM8K 从 92.72 降到 3.11,Table A21)。

    其他削减方法与 SafeStart 主测(Table 3)

    • 测了什么:三种规则在约三分之二预算下的 ASR 变化(refusal suppression)及加 SafeStart(N=8)后的变化。结果:top-k 单独 +18.4/+6.6/+9.5 pp,加 SafeStart 后 −0.6/+0.6/+1.3 pp;top-p 单独 +30.1/+11.2/+8.9 pp,加 SafeStart 后 −2.1/+1.3/+0.0 pp;阈值跳过单独不显著(−1.9/+1.3/+1.9 pp)。
    • 代价:top-p 的 GSM8K 损失比截断大(Qwen1.5 上 −7.9 分对 −2.4 分);两种动态方法在 batch size 8 解码都比截断慢。
    • 半数专家预算:截断使 ASR 升 13.4–36.0 pp,SafeStart 留下至多 +0.6 pp;此时 SafeStart 比原模型解码快 38–44%(batch size 8),GSM8K 比截断高 3.6–3.9 分。

    机制定位(Section 4.3、附录 E)

    • 首 token 分叉:Qwen1.5 上 101 个前向翻转中 92 个在第一个生成 token 即与原模型分叉(Figure 3);只截断提示词与首 token 的计算即可复现 Qwen1.5 上 91%、OLMoE 上 62% 的 ASR 上升;SafeStart N=1 在三模型上只留下至多 0.9 pp。
    • refusal direction:截断把末位提示词 token 的隐状态沿 refusal direction 推向 harmless 侧;在 Qwen1.5 和 OLMoE 上恢复原位置可消除 97% 和 71% 的首 token 上升,随机方向不能;对原模型施加该位移可复现 100% 和 75% 的上升(附录 E.3,因果干预)。
    • gate mass:丢失 gate mass 本身在三个受影响模型上都提高 ASR;恢复 mass 后移除专家仅在 Qwen1.5 上提高 ASR(附录 E.2)。

    留出验证与 LExI/ACE

    • 889 条留出请求(分析事先固定):截断使 ASR 升 21.4(Qwen1.5)、5.8(DeepSeek-V2-Lite)、10.3 pp(OLMoE);SafeStart 留下 +0.6/+2.6/+0.8 pp,在 Qwen1.5 与 OLMoE 上对原模型非劣(+3 pp 界),DeepSeek-V2-Lite 上未通过(去除 56% 的上升)。
    • LExI(448 目标,Table 4):ASR 从原模型 35.7/15.6/51.3% 升到 51.8/46.4/67.0%,加 SafeStart 后回到 36.4/18.5/53.3%;作者注明该协议用 256 token 上限,与主评估不可直接比较,且未测 LExI 加保护的运行时间。
    • ACE(Table 5):约 50% 跳过时 ASR 升 21.0 pp(Qwen1.5)、12.9 pp(OLMoE),SafeStart 压到 −0.4 和 +1.8 pp;非劣在 Qwen1.5 两个预算通过、OLMoE 未通过;DeepSeek-V2-Lite 的 25%/50% 设置因精度与困惑度检查显示输出不可靠而未作安全结果报告。

    其他消融与分析

    • 保护长度 N(Figure 6、Table A24):N=1 已消除三模型评估集上的上升;留出集上 N=8 去除 90% 的上升,N=1 为 81%(p=0.043);N=32 时保留的加速降至 77–82%。
    • 绕过情形:prefix injection 下 Ling-lite 加 SafeStart 仍 +12.5 pp(截断 +6.8 pp);distractor 模板下 Qwen1.5 留 +5.1 pp(截断 −0.2 pp)。
    • 在线服务:无专家移除时补丁对每输出 token 中位时间增加至多 2.4%;Qwen1.5 上 SafeStart 保留截断收益的 60–65%(1–4 请求/秒,自然长度),固定 256 token 时为 72–83%。
    • 大 batch:batch size 128 时截断最多省 3.9% 解码时间;补丁可选界 B=32,使 Qwen1.5 在 batch 128/256 与原模型相差 0.3% 以内。
    • 人工标注:Qwen1.5 上人工测得 +13.6 pp(95% CI [9.5, 19.1]),计部分服从为 +17.0 pp;DeepSeek-V2-Lite 上 +2.5 pp(p=0.088),计部分服从 +4.7 pp(p=0.007)。
    • 负面/例外:Qwen3 在 k′=2 时 162/1416 条回复无最终答案;留出模型 DeepSeek-MoE-16B 的上升不经过首 token(附录 E);40 种组合中 SafeStart 仅在截断本身降低 ASR 处显著高于截断,无任何组合下同时显著高于截断与原模型。
  5. 有什么可以进一步探索的点?

    作者列出可被模板绕过、未测自适应攻击、人工标注覆盖有限等局限;实验覆盖九个模型、五种削减方法与单卡 vLLM 设置。

    作者指出的局限与后续方向

    • 人工标注只覆盖两个模型的 587 条回复,其余结果依赖两个自动裁判,主裁判把许多部分服从计为 harmful(Section 6 Limitations)。
    • 规定开头或把有害任务后置的模板可绕过 SafeStart,且未测试自适应攻击(Section 6 Limitations)。
    • 在留出模型 DeepSeek-MoE-16B 上,首 token 并不承载 ASR 上升(Section 6 Limitations,附录 E)。
    • 模型最大 57B 参数;计时使用 RTX A6000 与 vLLM 默认 MoE kernel 设置;引擎补丁为单轮,不覆盖量化 MoE kernel 或专家并行,多轮服务需把专家预算加入前缀缓存键(Section 6 Limitations)。
    • confirmatory 族与等价界是在前两个模型跑完后才固定的(Section 6 Limitations,附录 A)。
    • 作者计划公开代码、提示词标识、逐回复标签与回复哈希;原始模型输出仅按申请向研究者提供(Section 6 Ethics and release)。

    实验覆盖范围

    • 被测模型为 Table 1 的九个 MoE 模型(七个 panel 模型加两个留出模型),参数规模 6.9B–57.4B。
    • 削减方法覆盖 top-k 截断、阈值跳过、top-p 路由、LExI(论文复现)与 ACE(移植);batch 级方法未测,作者称这类方法使请求的专家依赖同 batch 其他请求、可能被对抗利用,本文未检验(附录 D)。
    • 安全评测在 vLLM 0.11.0、单张 RTX A6000 上进行;评估提示词 472 条、第二留出集 889 条、第一留出集 122 条;LExI/ACE 用单独的 448 目标协议。
    • 越狱模板覆盖 refusal suppression、prefix injection、evil-confidant、distractor 四种(均来自 StrongREJECT 分发);采样解码仅在 Qwen1.5 上以 temperature 0.7、三个种子测过。
    • 论文未报告 LExI 加保护后的运行时间;ACE 的 DeepSeek-V2-Lite 25%/50% 设置未作安全结果报告。
  6. 总结一下论文的主要内容

    作者称 MoE 专家削减在精度不变时削弱拒答,变化集中在提示词与首 token,SafeStart 只保护这些位置即可恢复拒答并保住大部分加速。

    一篇关于 MoE 服务安全代价的审计与防御论文。作者指出,为加速而减少每 token 专家数的方法只用精度基准验证,而拒答可能在精度不变时被削弱。

    • 问题:在 vLLM 中把 top-k 截断到推荐运行点(保留约三分之二专家)只需一行配置;作者在九个 MoE 模型上做配对、噪声校准的拒答审计(472 条提示词、三种框架、双自动裁判加人工标注)。
    • 发现一:refusal suppression 越狱下,截断使 Qwen1.5-MoE 的 ASR 升 18.4 pp、OLMoE 升 9.5 pp、DeepSeek-V2-Lite 升 6.6 pp(Holm 校正后显著),而 MMLU 最多降 1.8 分;top-p 路由最高升 30.1 pp。加速本身真实但限于小 batch:batch size 8 解码快 15–28%,batch 128 至多 5%。
    • 发现二:拒答变化集中在 prefill 与最初几个生成 token——92/101 个翻转在首 token 分叉;只截断提示词与首 token 即可复现大部分上升;机制上截断把末位提示词 token 沿 refusal direction 推向 harmless 侧,恢复该方向可消除 97%(Qwen1.5)和 71%(OLMoE)的首 token 上升。
    • 方法:SafeStart 只对提示词和前 N=8 个生成 token 运行全部专家,经 vLLM 融合 kernel 实现,适用于 top-k、top-p、阈值预算。
    • 结果:SafeStart 把三种削减方法在三模型上的 ASR 变化压到 −2.1 至 +1.3 pp,保留至少 85% 的离线解码加速(batch 8 与 32);889 条留出请求上留下 0.6–2.6 pp 上升,两个模型非劣于原模型;半数专家时比原模型快 38–44% 且 GSM8K 比截断高 3.6–3.9 分。
    • 作者结论:更快的 MoE 服务不必以安全为代价,但服务系统启用此类方法前应逐模型、逐方法测试拒答而非只测精度;作者同时指出规定开头的模板可绕过 SafeStart、未测自适应攻击,并计划公开代码与补丁。

相关论文

共同使用 CatQA
共同使用 MATH-500
再看 3 篇
共同使用 MATH-500
阅读原文arxiv.org