事件历史事件
Composio介绍Agent防火墙拦截提示注入
先了解这件事
AI 综述
Composio 发文介绍其 Agent Firewall 如何降低智能体读取邮件或 Slack 消息时遭遇间接提示注入的风险，主张以最小权限、隔离不可信内容、在智能体与工具之间加运行时检查、强制人工确认四层组合应对。文章称可在工具执行前拦截调用，或在结果进入模型前拦截内容；按任务上下文判断单次调用是否合适的检查仍标注为即将推出。文中引用 AgentDojo 论文指出，只读任务去掉写工具仍有局限。
AI 根据报道生成 · 7 天前更新
走势与进展
每小时关注度
现在 29，24 小时 0%·峰值 31（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日现在 29
相关研究
报道引用的论文
- 保护 LLM Agent 免受提示注入的设计模式AI 智能体读取邮件或调用工具时，如何阻止提示注入
arXiv · 2025-06-10
- AgentDojo：评估 LLM 智能体提示注入攻击与防御的动态环境AI 智能体读取邮件或调用工具时，如何阻止提示注入
arXiv · 2024-06-19 · 深度解读
后续时间线
11月4日
- ComposioAI 智能体读取邮件或调用工具时，如何阻止提示注入
文章主张用最小权限、隔离不可信内容、在智能体与工具之间加运行时检查、强制人工确认这四层组合，降低读取邮件或 Slack 消息的智能体遭遇间接提示注入的风险。文章以 Composio Agent Firewall 的会话钩子为例，说明可在工具执行前拦截调用，或在结果进入模型前拦截内容；按任务上下文判断某次调用是否合适的检查仍在产品页上标注为即将推出。文中引用 AgentDojo 论文说明，让只读任务去掉写工具仍有局限，例如获批的发送工具仍可发往未授权收件人，并指出没有检测器能让不受限制的工具访问变安全，执行后的检查也无法撤回已发出的邮件或已删除的文件。在启用 Zero Data Retention 时，依赖历史上下文的检查可能无法拦截。
相关讨论
关注度走势
每天新增来源
- 11月5日新增1个来源（1家媒体、0个账号）
- 11月6日新增0个来源（0家媒体、0个账号）
- 11月7日新增0个来源（0家媒体、0个账号）
- 11月8日新增0个来源（0家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增0个来源（0家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）