跳到正文
原文
Pillar Security·本站收录· 原文发表日期未标

没有 LLM 的 Agent:Jev 与 System One 模型对 AI 安全意味着什么

The Agent With No LLM Inside: What Jev and System One Models Mean for AI Security

AI 导读

Pillar Security 分析 TypeSafe 的 System One 模型 Jev,认为这类不生成文本、只返回带校准概率的类型化决策的模型,会让提示词扫描、输出过滤和思维链监控三个检测面失去着力点。Jev 于 2026 年 9 月 15 日发布,采用 RLCD 训练,奖励校准而非人类偏好,单次前向传播并行作答,文本输入上限 32k token。作者称攻击面从指令通道转移到数据通道,相当于去掉提示词的间接提示注入,TypeSafe 文档也写明 jev-1.13 默认不把状态视为敌意。在安全运营告警分流评测中,Jev 与前沿参考的一致率为 61.7%,每例 0.3 秒、成本 $0.0001,而 Opus 5 为 66.2%、15.1 秒、$0.0574。文章建议把防护移到工具调用边界,并指出其护栏 cookbook 仅覆盖聊天文本的越狱与有害内容,不含间接注入和工具调用。

阅读原文pillar.security