跳到正文

智谱 · GLM · News

10月13日 · 周二

智谱 · GLM · News

按原发与事件进展排列
10月12日周一
  1. Anthropic Research、X @AnthropicAIAnthropic Research 等 2 个来源 · 2篇报道 · 57

    Anthropic 公布反蒸馏防御措施

    Anthropic 公布针对蒸馏攻击的防御措施,称早期证据显示新方法把蒸馏者获取的数据量减少约 90% 至 99%,平台上被提取的推理 token 数降至此前的 1/10 到 1/100。防御分三类:用 preserved thinking 阻止新 API 账号编辑 Claude 的先前上下文,并让推理记录只对产生它的组织可见;用两阶段分类器拦截提取尝试,误报率低于 0.1%;对反复尝试的账号收紧限额并封禁,自 9 月 24 日起对拦截的请求收费。

10月9日周五
  1. TechCrunch AI、Goodfire ResearchTechCrunch AI 等 2 个来源 · 2篇报道 · 43

    Goodfire 部署生产级模型内部监控

    Goodfire 发布“由内而外”监控器,通过 Baseten 向客户提供,可在智能体运行中实时读取模型内部激活信号,由探针触发二次核查。在 Kimi K3 上测试约 1,500 次会话,监控成本约 51 美元,而用廉价模型逐步检查需 233 美元、顶级模型约 10,000 美元;探针捕获 94% 的恶意黑客会话,把 8.7% 的无害会话送去复核。客户可选监控攻击性黑客、化生武器滥用和奖励作弊等风险。另一篇报道称,Goodfire 为 Kimi K3 和 GLM 5.3 构建基于探针的网络安全监控系统并部署在生产推理栈上,探针作为一线过滤器,只把可疑交互升级给 LLM 裁判,在 5.5% 良性会话中断率下达到约 93% 召回,成本低于每百万次交互 200 美元,比逐轮调用裁判便宜约 50 倍,且不增加推理延迟;在 FAR.AI 为期两天、基于 140 个越狱策略的静态红队测试中,启用监控后通用越狱从 66 个降到 0 个。

已经到底了