跳到正文
原文
Goodfire Research·本站收录 · 原文发表 精选关注度51

Goodfire 在 Kimi K3 与 GLM 5.3 上部署探针级联网络监控

Training and Deploying Production Cyber Monitors on Kimi K3 - Goodfire

AI 导读

Goodfire 为 Kimi K3 和 GLM 5.3 构建了基于探针的网络安全监控系统,并部署在生产推理栈上。探针读取模型内部激活作为一线过滤器,只把可疑交互升级给 LLM 裁判。该级联在 5.5% 良性会话中断率下达到约 93% 召回,成本低于每百万次交互 200 美元,比逐轮调用裁判便宜约 50 倍,且不增加推理延迟。在 FAR.AI 为期两天、基于 140 个越狱策略的静态红队测试中,启用监控后通用越狱从 66 个降到 0 个,1120 次非通用越狱交互的攻击成功率从至少 9–40% 降至 0.1–1.6%。用 Kimi K3 的数据训练出的监控流程也能迁移到 GLM 5.3。

推荐理由

Goodfire 把探针加 LLM 裁判的级联监控部署到真实推理栈,给出了成本、延迟和独立红队数据,可作为开源模型 Agent 安全栈的参考方案。

阅读原文goodfire.com