跳到正文
事件持续更新

PraisonAI 注入防御默认阈值过高可被绕过

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

PraisonAI 的 InjectionDefense 提示注入防御层默认配置存在缺陷:block_threshold 默认为 ThreatLevel.CRITICAL,只有同时触发 3 项及以上检测才会拦截。单个检测命中,包括被明确标记为危险的指令覆盖和财务操纵类别,只产生 HIGH 级别告警并写入日志,不会阻断,请求原样转发给 LLM。研究者给出的验证提示词仅触发一项指令覆盖检测即可完全绕过防御,财务操纵类提示同样被放行。

AI 根据报道生成 · 1 小时前更新

后续时间线

10月8日
  1. GitHub 安全公告精选
    PraisonAI 提示注入防御默认阈值过高,单向量攻击可绕过拦截

    PraisonAI 的 InjectionDefense 提示注入防御层默认配置存在缺陷,block_threshold 默认为 ThreatLevel.CRITICAL,只有同时触发 3 项及以上检测才会拦截。单个检测命中,包括被明确标记为危险的指令覆盖和财务操纵类别,只产生 HIGH 级别告警并写入日志,不会阻断,请求原样转发给 LLM。研究者给出的验证提示词仅触发一项指令覆盖检测即可完全绕过防御,财务操纵类提示同样被放行。影响包括系统提示词提取、未授权工具调用、会话上下文外泄以及代理具备支付工具时的资金操纵。建议将默认阈值改为 ThreatLevel.HIGH,使任一危险类别命中即拦截,需要宽松行为的运营者可显式传入 CRITICAL,并更新阈值注释说明严重级别与拦截的映射关系。

相关讨论

本站还没有收集到这件事的讨论链接。

关注度走势

每天新增来源

1 天共 1 个·最多 1(10月8日)·今天 1

  • 10月8日 新增 1 个来源(1 家媒体、0 个账号)

每小时关注度

暂无可比走势