跳到正文
原文
Goodfire Research·本站收录 · 原文发表

Goodfire 与 Baseten 合作,将前沿安全监控引入开源模型

Goodfire and Baseten partner to bring frontier safety to open models

AI 导读

Goodfire 与 Baseten 合作推出 Project Beacon,把 Goodfire 的安全栈接入 Baseten 推理平台,实时检测开源模型智能体的不安全行为。其激活监控器复用模型已有计算,可在每次前向传播中低延迟运行,并与 judge 级联以降低成本。在 Kimi K3 的生产网络监控评估中,该方案检出约 93% 的有害会话,仅将 5.5% 的良性会话标记复核,judge 成本最多降低约 50 倍,且推理吞吐无明显下降。

阅读原文goodfire.com