跳到正文
原文
OpenAI·本站收录· 原文发表精选关注度62

OpenAI 披露并处置一起协同模型蒸馏行动

Disrupting a coordinated model-distillation campaign

AI 导读

OpenAI 称识别并阻断了一起协同的对抗性蒸馏活动:操作者没有攻破加密或数据库,而是操纵模型交互,让受保护的推理内容以请求者可见的形式被复现,例如把一段对话里的加密推理拿到另一段对话中要求模型解密转写。活动 7 月 1 日开始,7 月 24–25 日高峰期约有 1.6 万次提取请求,相关集群在 7 月 28 日前被全部阻断;OpenAI 注明这些数字是提取尝试,不代表都已成功。OpenAI 不确定所有操作者是否同属一方,但将其中的核心集群归于与月之暗面(Moonshot AI)有关的人员。应对包括封禁或限制账号、封堵加密推理的重放路径、拦截可能泄露推理的流式输出、与第三方服务商协作,并通过前沿模型论坛和政府渠道共享信息;OpenAI 称合作方托管部署和工具输出攻击的防护仍在推进。

推荐理由

OpenAI 首次公开披露并处置一起针对其模型受保护推理的协同蒸馏行动,涉及账号封禁、技术加固与行业信息共享。

相关论文
阅读原文openai.com