事件历史事件
伯克利提出提示注入防御方案PromptArmor
先了解这件事
AI 综述
加州大学伯克利分校提出提示注入防御方案 PromptArmor：用现成 LLM 充当前置护栏，检测并移除代理输入中的注入内容，无需重训练或改动代理架构。论文在 AgentDojo 基准（银行、Slack、旅行、工作空间 4 类代理、629 个对抗场景）上报告：GPT-4.1 作护栏时攻击成功率降至 0%、攻击下效用 72.02%；o4-mini 作护栏时攻击成功率 0.08%、效用 76.35%，为所有方案中最高。
AI 根据报道生成 · 7 天前更新
走势与进展
每小时关注度
现在 37，24 小时 0%·峰值 39（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日现在 37
后续时间线
11月5日
- 公众号 为机器立心加州大学伯克利分校提出 PromptArmor：模块化易部署，现成 LLM 驱动的高效提示注入防御方案
加州大学伯克利分校提出提示注入防御方案 PromptArmor，用现成 LLM 充当前置护栏，检测并移除代理输入中的注入内容，无需重训练或改动代理架构。论文在 AgentDojo 基准（银行、Slack、旅行、工作空间 4 类代理、629 个对抗场景）上报告：GPT-4.1 作护栏时攻击成功率降至 0%、攻击下效用 72.02%；o4-mini 作护栏时攻击成功率 0.08%、效用 76.35%，为所有方案中最高。对比方案中，检测类 Deberta 误报率达 28.41%，提示增强 Repeat Prompt 攻击成功率仍为 29.89%，系统级 Tool Filter 效用仅 18.80%。作者称针对模糊测试类自适应攻击，攻击成功率仍低于 0.5%，并建议优先选用中大型 LLM 作护栏，对 GPT-3.5 等旧模型需在提示中加入术语定义。
相关讨论
关注度走势
每天新增来源
- 11月5日新增1个来源（1家媒体、0个账号）
- 11月6日新增0个来源（0家媒体、0个账号）
- 11月7日新增0个来源（0家媒体、0个账号）
- 11月8日新增0个来源（0家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增0个来源（0家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）