事件历史事件
multi-CaMeL 防御多智能体间接提示注入
先了解这件事
AI 综述
牛津大学等机构研究者发现，为每个智能体单独部署 CaMeL 防护不足以保证多智能体系统安全：不可信数据跨越智能体边界后被下游智能体当作可信输入，从而劫持其控制流，作者将这一失效模式称为 boundary laundering，并构造了具体攻击。为此他们提出 multi-CaMeL，在智能体间通信中把可信自然语言指令与不可信数据分离到不同通道，并在运行时保留数据来源信息。相关评测在扩展 AgentDojo 得到的 MultiAgentDojo 上进行。
AI 根据报道生成 · 2026-10-06更新
相关研究
这件事的论文
- 研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL
arXiv · 2026-10-05 · 深度解读
故事线
2 个事件
- · 1篇报道· 关注度40
multi-CaMeL 防御多智能体间接提示注入本事件
- · 1篇报道· 关注度42研究揭示多Agent系统边界洗白攻击并提出multi-CaMeL
后续时间线
10月5日
- arXiv：越狱、提示注入、投毒与防御精选研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL
牛津大学等机构的研究者发现，为每个智能体单独部署 CaMeL 防护不足以保证多智能体系统安全：不可信数据跨越智能体边界后被下游智能体当作可信输入，从而劫持其控制流，作者将这一失效模式称为 boundary laundering，并构造了具体攻击。为此他们提出 multi-CaMeL，在智能体间通信中把可信自然语言指令与不可信数据分离到不同通道，并在运行时保留数据来源信息。在扩展 AgentDojo 得到的 MultiAgentDojo 基准上，multi-CaMeL 将攻击成功率从无防护的 12.9%、单智能体 CaMeL 的 0.2% 降至 0.0%；在 AssetOpsBench 上相对单智能体 CaMeL 平均仅增加 3.2 个百分点的效用损失，且模型能力越强损失越小。作者同时开源了 MultiAgentDojo 及 multi-CaMeL 实现。