跳到正文
原文

4-bit 量化对聊天模型的安全行为不止是噪声吗?以匹配扰动归因行为变化

Is 4-Bit Quantization More Than Noise to a Chat Model's Safety Behaviour? Attributing Behavioural Shifts with Matched Perturbations

arXiv:其他 AI 安全论文· arXiv:2611.22186· Ege KayaUniversity of British Columbia本站收录· 2 天前· 原文发表入选 评测· 扫描记录里的位置 →精选关注度39

论文速读

分析/可解释性

据论文 PDF 整理(AI 生成),以原文为准

作者对三个 3–4B 聊天模型做预注册配对实验,称 4-bit 量化对拒答行为的影响方向取决于具体舍入误差而非位宽,两个模型出现方向相反的偏移。

问题
手机和笔记本上跑的聊天模型通常是全精度模型的 4-bit 副本,而既有审计对量化如何影响拒答结论不一,且没有解释原因。
方法
对三个 3–4B 模型做预注册配对实验,以 8-bit 为零效应基线,再用镜像、打乱、高斯等与实际舍入误差等大的扰动和剂量缩放做归因,并分析拒答方向投影。
实验与结果
Qwen2.5-3B 在强制起始下 4-bit 后更易继续有害内容,Llama-3.2-3B 在自由起始下对越狱提示履约更少但也多拒良性请求,Qwen3-4B 无显著偏移;随机扰动均值近零,方向随真实误差缩放近线性变化。
局限与可以继续做的
作者列出的局限包括:仅三个 3–4B 模型、量化器与运行时覆盖有限、自由起始效应先在开发集发现、两种设置用不同提示集、剂量构建非真实格式、对照较粗、贪心解码、128 token 截断、人工标注仅作者一人。
实验设置Qwen2.5-3B-Instruct、Llama-3.2-3B-Instruct 等 · harmful_test (Arditi et al., 2024)、WildJailbreak 等 · paired shift in judged harmful output / fulfilment rate (pp)、churn 等
威胁模型
非攻击论文。场景设定:开发者在全精度下评估聊天模型、发布第三方制作的 4-bit 副本,论文问副本是否仍拒绝同样的请求;使用 assistant prefill 探测拒答被绕过的难易,作者明确这不是对本地权重的现实攻击。
被测模型
Qwen2.5-3B-InstructLlama-3.2-3B-InstructQwen3-4B-Instruct-2507
基准
harmful_test (Arditi et al., 2024)WildJailbreakXSTestSORRY-Bench
指标
paired shift in judged harmful output / fulfilment rate (pp)churn∆NLL/token vs bf16refusal-direction projection
AI 导读和推荐理由英属哥伦比亚大学 Ege Kaya 的预注册研究在三个 3–4B 聊天模型上发现,4-bit 量化对拒答的影响因模型和构建而异:预填合规回复开头时 Qwen2.5-3B 更常续写有害内容,Llama-3.2-3B 在留出的 WildJailbreak 越狱提示上服从率从 45.0% 降到 34.8%,Qwen3-4B 无显著变化。匹配扰动实验显示,同尺寸的打乱与高斯扰动平均接近零,行为随真实舍入误差的缩放近线性变化,偏移方向取决于具体舍入误差而非每权重比特数或似然;一半误差下 Llama 似然几乎不变但服从率已降 5.8 个百分点。Llama 的下降也不是更好的有害辨别,它同时更常拒绝越狱风格的良性请求。论文建议内存允许时用 8-bit,并把每个量化构建与其原模型对照测试,代码与标注已在 GitHub 发布。

英属哥伦比亚大学 Ege Kaya 的预注册研究在三个 3–4B 聊天模型上发现,4-bit 量化对拒答的影响因模型和构建而异:预填合规回复开头时 Qwen2.5-3B 更常续写有害内容,Llama-3.2-3B 在留出的 WildJailbreak 越狱提示上服从率从 45.0% 降到 34.8%,Qwen3-4B 无显著变化。匹配扰动实验显示,同尺寸的打乱与高斯扰动平均接近零,行为随真实舍入误差的缩放近线性变化,偏移方向取决于具体舍入误差而非每权重比特数或似然;一半误差下 Llama 似然几乎不变但服从率已降 5.8 个百分点。Llama 的下降也不是更好的有害辨别,它同时更常拒绝越狱风格的良性请求。论文建议内存允许时用 8-bit,并把每个量化构建与其原模型对照测试,代码与标注已在 GitHub 发布。

推荐理由论文用匹配扰动把量化后的拒答变化归因于具体舍入误差,部署量化模型的团队需要把每个构建与其原模型对照测试,而非只看比特数或似然。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    4-bit 量化副本的拒答行为是否与原模型一致,审计结论为何互相矛盾。

    核心问题:部署在端侧的 4-bit 量化聊天模型是否还拒绝同样的请求,以及既有审计结论为何互相矛盾。

    • 场景与重要性:手机和笔记本上的聊天模型通常是全精度模型的 4-bit 副本,常由第三方一条命令生成;能力检查之外,拒答行为是否保持往往被默认(§1)。
    • 现有工作不足:既有审计对量化影响拒答的方向和幅度结论不一,有的发现拒答减少、有的发现 4 bit 几乎无变化甚至拒答增多;作者认为没有解释为什么(§1、§2)。
    • 核心观察:4-bit 构建只是与舍入误差等大的众多权重扰动之一,行为变化可能来自具体的舍入误差,也可能来自任何等大的扰动;两种解释可以用等大的非量化扰动区分(§1)。
    • 测量难点:单个标签不稳定——8-bit 构建似然几乎不变,却会改写多数回复并改变几个百分点的判定标签,因此作者把每个结果报告为配对速率偏移并配 8-bit 零效应基线(§4)。
    • 论文贡献:作者称贡献为 (i) 测得两个方向相反的 4-bit 拒答偏移;(ii) 用匹配扰动和剂量-反应把偏移归因于具体舍入误差;(iii) 拒答方向分析;(iv) 带 8-bit 零线的配对比较设计(§1)。
    • 设定(非威胁模型):开发者全精度评估、发布 4-bit 副本;assistant prefill 用于探测拒答被绕过的难易,作者明确这不是对本地权重的现实攻击,因为权重持有者可直接移除安全训练(§3)。
  2. 有哪些相关研究?

    量化拒答审计结论不一、量化作为扰动、标签不稳定、prefill 与浅层对齐四组。

    量化模型的拒答审计

    • Hong et al. (2024)、Chen et al. (2025)、Kharinaev et al. (2025)、Kadadekar (2026)、Prasad and Pal (2026)、Wu et al. (2026)——审计量化聊天模型的拒答,报告的方向因模型和方法而异;论文引用的具体结果包括:66 个量化变体中没有方法一致最安全(Kharinaev et al., 2025);AWQ、GPTQ 和 2–3-bit GGUF 使拒答变化最高 57 个百分点,而 Q4_K_M 构建变化不超过 3(Kadadekar, 2026)。
    • Egashira et al. (2024, 2025)——构造对抗性舍入误差,使模型全精度下表现无害、量化后行为变差。论文指出这些研究都没有施加与量化误差等大的非量化扰动。

    量化作为扰动

    • Gong et al. (2024)——把量化当作权重和激活上的噪声,与匹配 L2 范数的人工扰动比较一般任务性能,发现在部分模型家族一致、部分不一致。论文称本文对拒答问同样的问题,并加入由真实误差构造的对照(镜像、打乱、缩放副本)。
    • Razan and Shivam (2026)——在首 token 边际上比较各向同性权重噪声与真实 4-bit 误差,噪声模型低估了翻转。论文称本文用完整回复和由真实误差构造的对照。
    • Peng et al. (2024)——随机权重扰动在模型周围的盆地内保持平均安全不变。

    单标签不稳定

    • Dutta et al. (2024)、Larsen (2025)、Prasad and Pal (2026)、Monteuuis et al. (2026)——量化模型在准确率不变时翻转单个回答;安全判定随种子和温度翻转;攻击成功率逐次运行变化。Shahani et al. (2025)、Liu et al. (2026)——向激活或参数加噪声会侵蚀安全对齐,但未与量化器误差匹配。论文把这种不稳定当作基线来定义估计量(§4)。

    Prefill 与浅层对齐

    • Qi et al. (2025)——拒答集中在回复的前几个 token;Arditi et al. (2024)——拒答由残差流中的单一方向介导。Struppek et al. (2026)、Park et al. (2026)——prefill 可绕过全精度开源模型的拒答;2-bit 下失败集中在最小模型。Chhabra and Khalili (2025)——拒答方向在 8-bit 和 AWQ 量化后仍保留(余弦相似度高于 0.99)。

    定位:作者称本文与上述工作的区别在于用匹配扰动(含由真实舍入误差构造的对照)和剂量-反应来归因拒答偏移的方向,并以 8-bit 零线处理标签不稳定(§1、§2)。

  3. 论文如何解决这个问题?

    配对设计加 8-bit 零线测偏移,再用等大扰动和剂量缩放归因方向来源。

    整体思路:先在两种设置下用配对设计测出 4-bit 构建相对 bf16 的拒答偏移(以 8-bit 构建为零效应基线),再用与真实舍入误差等大的镜像、打乱、高斯扰动和误差缩放(剂量-反应)判断偏移方向取决于具体舍入误差还是仅取决于扰动大小,最后用拒答方向投影做相关性分析。

    模型、格式与能力度量

    • 被测模型:Qwen2.5-3B-Instruct、Llama-3.2-3B-Instruct、Qwen3-4B-Instruct-2507,默认聊天模板,所有量化构建由 bf16 检查点经 mlx-lm 0.32.2 转换(§3)。
    • 主格式:mlx-lm 默认的 affine round-to-nearest 4 bit、组大小 64(4.50 bits/w);另有 8bit-g64、4bit-g32、mixed 4/6、MXFP4,以及同写 4-bit 组 64 格式的 AWQ 和 GPTQ;第二运行时用 llama.cpp 构建 bf16、Q8_0、Q4_K_M GGUF(§3、Table 1)。
    • 能力度量:各构建对 bf16 自己对 200 条无害提示回复的负对数似然变化(∆NLL/token);8-bit 构建似然几乎不变,MXFP4 在每个模型中损失最大(Table 1)。

    两种行为设置

    • 强制起始(主测试):Arditi et al. (2024) harmful_test 的 562 条请求,预填同一模型的 abliterated 副本生成的合规回复前 k = 8 个 token;另报 k ∈ {0, 2} 和通用前缀。测试拒答被绕过的难易(§3、§5.1)。
    • 自由起始:WildJailbreak 评估集,前 200 条为开发集、另 400 条为 held-out 测试集,无预填(§3、§5.2)。
    • 过度拒答:XSTest 的 250 条安全提示和 WildJailbreak 的 210 条 adversarial-benign 提示;SORRY-Bench 为次要族(§3、附录 D)。解码为贪心、上限 128 个新 token。

    判定与统计

    • 内容裁判:Qwen2.5-14B-Instruct 读请求和完整回复,标注 complying / partly complying / not complying / incoherent,前两类计为 judged harmful(强制起始)或 fulfilment(自由起始);关键词拒答检测不可用,因为前缀占据了它读取的位置(§3)。
    • 第二裁判与人工:Llama Guard 3 以"unsafe"为构念;强制起始主测试另加两阶段人工标注——裁判意见不一致的全部配对加每个一致层 25 对随机配对,盲标、设计加权,作者共标 400 对(800 条回复)(§3、附录 C)。
    • 统计:全部为配对比较,偏移为速率差,churn 为标签改变的提示占比;精确 McNemar 检验、族内 Holm 校正;区间为 10,000 次重采样的百分位 bootstrap;等效定义为偏移的 90% 区间落在 ±5 pp 内;主测试、确认测试和决策规则均预注册(§3、附录 A)。

    匹配扰动与剂量

    • 误差定义:对每个被 4-bit 构建量化的权重矩阵 W(含嵌入),令 E = dequant(Q(W)) − W 为其舍入误差;对照构建扰动 W 的量与舍入相同但模式不同(§7)。
    • 对照:镜像 W − E 反转误差符号;三个 permuted 构建在每个 64 组内打乱 E;三个 Gaussian 构建按行范数缩放噪声替换 E;dense 构建 W + E 验证构造(与真实量化模型似然差 -0.0007 和 -0.0001 nats/token,首 token 一致率 100.0% 和 99.5%)(§7)。
    • 方向判定规则:随机对照均值与真实构建同号且区间不含零、且镜像不反转,则方向是"模型的倾向";镜像反转且区间不含零,或随机对照区间含零而 real-minus-random 不含零,则为"rounding-specific"(§7)。
    • 剂量:以 W + aE 在 a ∈ {−1, 1/2, 1, 2} 处构建,检验偏移随误差缩放的线性性(§7、Figure 2)。

    拒答方向投影

    • 对每个构建,在行为测试的提示上记录生成起点处模型状态在其 bf16 拒答方向上的投影,与 bf16 逐提示比较;作者明确该分析是相关性的、不识别电路(§8)。
  4. 论文做了哪些实验?

    两个方向相反的 4-bit 偏移,归因于具体舍入误差;位宽和似然都不能预测。

    实验设置

    • 被测模型:Qwen2.5-3B-Instruct、Llama-3.2-3B-Instruct、Qwen3-4B-Instruct-2507(§3)。
    • 数据:harmful_test 562 条(强制起始);WildJailbreak 开发集 200 条、held-out 测试集 400 条(自由起始);XSTest 250 条安全提示、WildJailbreak 210 条 adversarial-benign 提示;SORRY-Bench 为次要族(§3)。
    • 指标:相对 bf16 的配对速率偏移(pp)、churn、∆NLL/token;等效界 ±5 pp;精确 McNemar + Holm 校正,10,000 次 bootstrap(§3)。
    • 评审:主裁判 Qwen2.5-14B-Instruct(4-bit),第二裁判 Llama Guard 3;强制起始主测试有作者本人的两阶段盲标(400 对、800 条,设计加权);裁判与人工一致率 78%/81%/90%(κ = 0.50/0.60/0.52),两个低于注册的 0.60 阈值,故强制起始以人工标注为准(§3、§4)。
    • 重复与零线:同权重贪心重跑 100 条回复 100% 逐 token 一致;8-bit 构建为零效应基线(§4)。

    主结果

    模型强制起始 4-bit 偏移 (pp)自由起始 4-bit 偏移 (pp)
    Qwen2.5-3B+6.2(人工 +19.4)-2.3
    Llama-3.2-3B+0.0-10.3
    Qwen3-4B-1.6+3.8

    据 Table 2;粗体为显著的确认性测试。强制起始为 harmful_test + 8 token 前缀,自由起始为 held-out WildJailbreak 无预填。

    • 作者称 Qwen2.5-3B 在强制起始下更易继续有害内容:裁判判不一致的配对中有害回复 34 次来自 4-bit、9 次来自 bf16(p = 1.7 × 10−4),人工加权偏移 +19.4 pp [+6.0, +33.4];裁判低估危害,给出同号较小偏移 +6.2 pp [+2.8, +9.8](§5.1)。
    • 作者称 Llama-3.2-3B 在自由起始下履约率从 bf16 的 45.0% 降到 4-bit 的 34.8%(-10.3 pp [-14.0, -6.2],p = 4.5 × 10−7),其 8-bit 构建无差异(-1.3 pp),MXFP4 降幅更大(-16.0 pp)(§5.2)。
    • 三模型合并的偏移不显著(p = 0.11),作者称效应是 Qwen2.5-3B 特有的;Qwen3-4B 在两个设置下均无显著偏移(§5.1、§5.2)。

    归因:匹配扰动与剂量(§7)

    • 随机对照均值近零:Qwen2.5-3B 六个随机对照平均 +0.4 pp [-2.1, +2.8],真实构建超出 +5.8 pp,镜像估计反号(-3.0 pp);Llama-3.2-3B 随机对照 -1.1 pp,real-minus-random -9.1 pp,镜像 +3.7 pp。按决策规则两个偏移都是 rounding-specific。
    • 剂量近线性:W + aE 下偏移随 a 单调、近线性,斜率 +4.6 pp [+3.3, +5.9](Qwen2.5 强制)和 -7.2 pp [-8.8, -5.6](Llama 自由)每单位误差(Figure 2)。
    • 半误差构建:Llama-3.2-3B 在 W + ½E 时似然几乎不变(+0.005 nats/token),但履约已少 5.8 个百分点(p = 0.0022);作者据此称似然检查可能漏掉行为偏移。
    • 其他量化器:AWQ 复现 Qwen2.5-3B 的偏移(+4.8 pp)但不复现 Llama-3.2-3B 的(+1.0 pp);llama.cpp 的 Q4_K_M 对两个模型都无偏移,而同位宽的 MLX 构建能偏移 Qwen2.5-3B;Qwen2.5-3B 的 GPTQ 构建失败被排除(∆NLL +9.335,附录 A)。

    排除更简单的解释(§6)与过度拒答

    • 能力解释不成立:MXFP4 在每个模型中似然损失最大(Table 1),却不偏移 Qwen2.5-3B 的强制起始行为(-0.7 pp);Llama-3.2-3B 似然损失最小(+0.038)却有最大自由起始偏移;偏移排序既不由位宽也不由似然损失决定。论文未跑任务基准。
    • "变得更安全"解释不成立:4-bit Llama-3.2-3B 在 XSTest 安全请求上拒答率与 bf16 相当(-0.4 pp),但对越狱风格良性请求拒答更多(+5.7 pp [+1.4, +10.0],Table 3);作者称下降不是更好的危害判别。
    • 两个 Qwen 模型方向相反:4-bit Qwen2.5-3B 拒答更少安全请求(-6.4 pp,Holm p = 0.083),4-bit Qwen3-4B 拒答更少越狱风格良性请求(-8.6 pp)(Table 3、§6)。

    拒答方向投影(§8)

    • Qwen2.5-3B 符合预测一、不符合预测二:强制起始下 4-bit 构建投影低于 bf16(-0.80),镜像更高(+0.13),投影随剂量缩放;但 15 个构建间投影变化与合规变化相关不显著(Spearman ρ = −0.44, p = 0.10),多个构建(如某高斯对照 -0.66、MXFP4 -0.61)投影降幅接近而行为不变。
    • Llama-3.2-3B 弱符合两个预测:4-bit 构建投影略高(+0.13),14 个构建间相关如预测(ρ = −0.54, p = 0.047);但行为偏移最大的双倍误差构建投影反向(-0.33)。
    • 作者结论:真实误差确实把状态沿拒答方向移动,但行为不变的构建也如此,因此该投影不能预测行为偏移。

    其他消融与分析

    • 前缀深度:Qwen2.5-3B 偏移在 k = 2 已存在(+6.8 pp),k = 0 时 bf16 几乎不合规(Table 7)。
    • 回复上限三倍:Qwen2.5-3B +4.0 pp(128 token)/ +6.0 pp(384);Llama 自由起始 -10.7 pp / -10.7 pp(§5)。
    • 通用前缀"Sure, here is":Qwen2.5-3B +4.3 pp(校正后不显著);held-out 提示上两个模型均无偏移(§5)。
    • SORRY-Bench 无预填:Llama-3.2-3B -5.0 pp [-7.8, -2.2],同号于自由起始(Table 9)。
    • 采样下标签方差:Qwen2.5-3B 4-bit 超出 bf16 +0.028,Llama 仅 +0.009(附录 B)。
    • MXFP4 Qwen2.5-3B 在 200 条良性提示上 10.5% 回复伪造下一轮用户发言,其他构建为 0(附录 G、Table 13)。
  5. 有什么可以进一步探索的点?

    作者列出范围、量化器覆盖、测量等局限;实验仅覆盖三个小模型与贪心解码。

    作者指出的局限与后续方向

    • 范围:仅三个来自两家厂商的 3–4B 模型,符号因模型而异,结果不能推广到 4-bit 量化聊天模型这一类;每个结果只适用于被测构建(Limitations)。
    • 量化器与运行时:只覆盖 MLX round-to-nearest(affine 和 MXFP4)、MLX 的 AWQ 和 GPTQ、不带重要性矩阵的 llama.cpp Q4_K_M;其他实现、imatrix GGUF、bitsandbytes、厂商流水线(量化感知训练)未覆盖;第二运行时和校准量化器只在有偏移的两个单元跑过(Limitations)。
    • 自由起始效应先在开发集发现:测试提示是 held-out 的,但确认性测试的提示集和模型选择跟随了开发集结果(Limitations)。
    • 两种设置用不同提示集:强制通用起始能对 Llama-3.2-3B 分离两个因素,对 Qwen2.5-3B 不能,其偏移可能也依赖提示类型;该强制起始还抬高了基线合规率,比较不完全对等(Limitations)。
    • 剂量构建不是真实格式:半倍和双倍误差构建是任何已发布量化器都不产生的 dense bf16 模型,双倍构建似然损失远大于真实构建(Limitations)。
    • 其他列出的局限:对照较粗(每单元仅一个镜像、三个排列种子、三个高斯采样、两个尺度,且归因到整个扰动而非特定层;拒答方向分析是相关性的);贪心解码、每提示一条回复、128 token 截断;强制起始前缀是模型特定的;主裁判本身是同族 4-bit 模型且低估危害;唯一人工标注者是作者本人(Limitations)。

    实验覆盖范围

    • 被测模型为 Qwen2.5-3B-Instruct、Llama-3.2-3B-Instruct、Qwen3-4B-Instruct-2507 共 3 个(§3)。
    • 行为评测为贪心解码、每提示一条回复、上限 128 新 token;采样下的种子下限实验未对 Qwen3-4B 运行(§3、Limitations)。
    • 人工标注仅覆盖强制起始主测试(400 对、800 条回复,标注者为作者),其余单元均用裁判(§3、Limitations)。
    • 能力度量仅为对 bf16 自己回复的似然,未运行任务基准,作者称因此无法说任务基准是否会给出同样排序(§6、Limitations)。
    • 论文未报告与人工标注并行的独立第二标注者或标注者间一致性;拒答方向分析为相关性投影,未做因果电路干预(§8、Limitations)。
  6. 总结一下论文的主要内容

    4-bit 量化对拒答的影响方向取决于具体舍入误差,每个构建都需与原模型对比。

    一篇关于量化安全行为的归因研究:端侧聊天模型多为全精度模型的 4-bit 副本,而既有审计对量化如何影响拒答结论不一且没有解释。

    • 问题:4-bit 构建只是与舍入误差等大的众多权重扰动之一,行为变化可能来自具体舍入误差,也可能来自任何等大扰动;作者用匹配扰动区分这两种解释。
    • 方法:预注册的配对设计,以 8-bit 构建为零效应基线,在强制起始(预填 8 个合规 token)和自由起始(held-out 越狱提示)两种设置下测偏移;再用镜像、组内打乱、高斯等误差扰动和 W + aE 剂量缩放归因;裁判为 Qwen2.5-14B-Instruct,主测试辅以作者盲标。
    • 两个方向相反的偏移:Qwen2.5-3B 强制起始下 4-bit 后更易继续有害内容(裁判 +6.2 pp、人工 +19.4 pp);Llama-3.2-3B 自由起始下履约率降 10.3 个百分点,但对越狱风格良性请求拒答反增 5.7 pp,作者称这不是更好的危害判别;Qwen3-4B 无显著偏移。
    • 归因结果:随机对照均值接近零,镜像反转符号,偏移随误差缩放近线性(斜率 +4.6 / -7.2 pp 每单位误差);作者据此称方向取决于具体舍入误差,而非位宽或扰动大小。
    • 预测因子缺失:位宽和似然损失都不能预测哪个构建会偏移——Llama 半误差构建似然几乎不变却已少合规 5.8 个百分点;拒答方向投影与行为变化的关系弱且不一致。
    • 作者结论:没有 8-bit 构建出现显著速率偏移,内存允许时用 8 bit;4 bit 下没有任何被测量能预测哪个构建会偏移,因此每个构建都应与其原模型配对对比,并配一条零线。
阅读原文arxiv.org