保护 LLM Agent 免受提示注入的设计模式
Design Patterns for Securing LLM Agents against Prompt Injections
AI 导读
Luca Beurer-Kellner 等作者提出一组设计模式，用于构建可证明抵御提示注入的 LLM Agent。论文系统分析这些模式，讨论它们在实用性与安全性之间的取舍，并通过案例研究展示其现实适用性。作者指出，当 Agent 获得工具访问权限或处理敏感信息时，提示注入的风险尤其突出。
相关热点
2 个事件 · 2 条新闻提到
- 报道引用了这篇论文
Composio介绍智能体防火墙拦截提示注入
提到这篇论文的新闻
Composio介绍智能体防火墙拦截提示注入
- Composio引用了论文编号或链接AI 智能体读取邮件或调用工具时，如何阻止提示注入
The architectural recommendations draw on Microsoft's safety guidance, OpenAI's approval and data-flow guidance, AgentDojo, and the Design Patterns paper.
Harvey 构建 MCP 策略引擎防护提示注入
- Harvey引用了论文编号或链接Harvey 构建 MCP Policy Engine，为智能体调用第三方 MCP 工具加运行时管控
Following the NCSC’s guidance to limit the consequences of compromise, we primarily rely on architectural mitigations.