Anthropic 加强针对蒸馏攻击的防御
Strengthening our defenses against distillation attacks
AI 导读
Anthropic 称早期证据显示,其新的蒸馏防御方法把蒸馏者获取的数据量减少了约 90% 至 99%,平台上被提取的推理 token 数降至此前的 1/10 到 1/100。防御分三类:用 preserved thinking 阻止新 API 账号编辑 Claude 的先前上下文,并让推理记录只对产生它的组织可见;用两阶段分类器拦截提取尝试,误报率低于 0.1%;对反复尝试的账号收紧限额并封禁,自 9 月 24 日起对拦截的请求收费。Anthropic 称在 SWE-bench Verified 上,用摘要推理训练的模型得 71.8%,用完整推理得 80.4%。Anthropic 还称智谱在开发 GLM-5.3 时蒸馏了美国模型的网络能力,CAISSI 评估其为迄今网络能力最强的开源权重模型。这些措施要求部分开发者更新集成。
推荐理由
Anthropic 披露了针对蒸馏攻击的三类防御措施及其误报率与代价,其他模型开发者可据此评估同类防护的取舍。
相关论文