模型更新改到了哪里？为模型更新认证声明的变更范围
Where Did the Update Go? Certifying Declared Change Envelopes for Model Updates
论文速读
据论文全文整理（AI 生成），以原文为准
论文提出用“声明的变更范围”认证模型更新是否只改在事先承诺的输入区域。作者在 1.5B 到 72B 参数模型上测试 LoRA、全参数微调、DPO、GRPO 和知识编辑，发现领域与政策 LoRA 更新只把约 7–36% 的变更决策留在声明范围内；在 256 个变体上，泄漏与范围外 KL 散度的 Spearman 相关为 0.94。
- 部署中的语言模型持续更新，监管（如 EU AI Act、FDA 预定变更控制计划）要求证明更新只在事先声明的范围内改变行为。现有回归、churn、模型相等性检验和编辑局部性指标都衡量别的量，无法认证一个本就意在改变行为的更新。
- 提出 declared change envelopes：训练前用哈希承诺一个输入区域 E，训练后在无标签流量上把 E 之外的决策改变率定义为 leakage，用 anytime-valid 置信序列或单侧序贯检验认证，并给出多次更新的 lifetime 漂移界。另提出在部署格式的无标签 prompt 上对 incumbent 决策做 KL 锚定（anchoring）来压低 leakage。
- 在 1.5B–72B 的六个模型上测 LoRA、全量微调、DPO、GRPO、RLVR 和知识编辑：窄更新泄漏广泛，域/策略 LoRA 只有约 7–36% 的改变落在声明范围内，且聚合准确率看不出。leakage 与 out-of-scope KL 强相关（256 个变体 Spearman 0.94）。常规手段（学习率、权重插值、L2、replay、通用文本 KL 等）无法在不牺牲预期改变的前提下达到可认证水平；anchoring 使 LoRA、GRPO、小学习率全量微调在几百到几千无标签样本内认证 5% leakage，并在留出审计流量和书面答案上复现。
- 证书只覆盖决策类输出：开放式聊天中仅重新分批未改动模型就会改变 11–21% 回答的实质，没有变体能认证。letter 决策的自不一致下限为 0.4–1.2%，lifetime 界随更新数线性增长，约 20 次后失效。锚定在 Mistral 和 Llama 编辑更新上未达可认证水平；医疗增益小，部分被锚定牺牲；审计流量为单一 benchmark 池的随机划分，未测真实时间漂移或 prompt 格式变化。
论文提出用“声明的变更范围”认证模型更新是否只改在事先承诺的输入区域。作者在 1.5B 到 72B 参数模型上测试 LoRA、全参数微调、DPO、GRPO 和知识编辑，发现领域与政策 LoRA 更新只把约 7–36% 的变更决策留在声明范围内；在 256 个变体上，泄漏与范围外 KL 散度的 Spearman 相关为 0.94。把更新锚定到原模型在部署格式无标注提示上的决策后，LoRA、GRPO 和小学习率全参数微调可在数百到数千个样本后认证 5% 泄漏。认证只覆盖类决策输出，开放式聊天中仅重新分批未更改模型就会改变 11–21% 回复的实质内容，没有变体能认证。
推荐理由论文把更新合规声明转化为可统计认证的越界决策变化率，并实测多种更新类型的泄漏程度，为更新审计提供可复现方法。