跳到正文
原文
The Merkle·本站收录· 原文发表精选关注度45

DeepMind论文:智能体集群在完整预算下攻破Kimi K3等三模型约99%场景

DeepMind's Agent Swarm Breaks Kimi K3, GLM-5.3 and DeepSeek in 99% of Injection Tests

AI 导读

Google DeepMind 11 月 9 日的论文提出名为 Agentic Optimizer 的多智能体攻击者,用 8 支两人小队通过共享白板协作搜寻注入载荷,使 Kimi K3、GLM-5.3 和 DeepSeek V4.1 Flash 在 320 次查询预算下仅挡住 1% 的攻击。测试包含 100 个合成场景、249 个工具,攻击目标是让智能体执行一个与用户任务无关但本身无害的工具调用,只有工具名、参数键和数值完全匹配才计为成功。防守方最强的 Gemini 4 Argon 在攻击者获得 150 次查询时挡住 87%,预算升到 320 次后降到 66%;Gemini 3.8 Flash 从 34% 降到 10%。在 80 个 AgentDojo 场景、25 次查询预算下,集群攻破 6 个,此前最好的开源攻击者 Prompt Siren 为 2 个。

推荐理由

论文显示同一防守模型在更强攻击者面前抵抗力从 87% 降到 66%,鲁棒性分数取决于用来测它的攻击者。

相关论文
阅读原文themerkle.com