跳到正文
原文
HiddenLayer Research·本站收录· 原文发表精选关注度36

细节中的 Jevil:TypeSafe Jev 及其他 System One 模型的安全影响

Jevil in the details: Security implications of TypeSafe Jev and other System One models

AI 导读

HiddenLayer 的测试显示,TypeSafe 的 System One 模型 Jev 及其他同类模型仍可能被间接提示注入和文本扰动攻击带偏,改变解码方式并未消除常见风险。在模拟结账页面上,尽管系统提示写明页面文本不可信,攻击者控制的广告仍让浏览器 Agent 点击广告、离开购买流程;Jev API、基于 Qwen3.8-27b 的自研模型和 OpenAI Decisions API 的 gpt-6-luna 都给出错误决策,用 jev-ultrafast harness 的传统自回归模型也被带偏。在 30 条有害提示词的分类测试中,两个模型基线均给出高毒性评分,但在增加扰动数量并改进目标后,TokenBreak 式扰动可以绕过。

推荐理由

测试显示改用单次推理返回结构化决策的 System One 模型仍会被间接提示注入和文本扰动绕过,部署方需按具体应用验证其决策。

阅读原文hiddenlayer.com