什么是模型提取攻击？蒸馏攻击如何通过 API 窃取 AI 模型
What Is a Model Extraction Attack? How Distillation Attacks Steal AI Models Through the API
AI 导读
模型提取（蒸馏）攻击让攻击者仅通过公开 API 查询已部署模型，再用输入/输出对训练本地模型复制其功能。Anthropic 2026 年 2 月称，三家 AI 实验室用约 2.4 万个虚假账户从 Claude 提取逾 1600 万条查询并据此训练模仿模型。2026 年针对 Claude 和 Gemini 的此类攻击还诱导模型逐步输出思维链。
相关论文