DeepMind论文称智能体集群攻破所测模型

1. 17:01
   X@themerklehash· 讨论

   🚨 DeepMind’s agent swarm hijacks Kimi K3, GLM-5.3 & DeepSeek in ~99% of prompt injection tests. Full story read : http…（新标签页打开原帖）
2. 16:57
   The Merkle精选

   DeepMind论文：智能体集群在完整预算下攻破Kimi K3等三模型约99%场景

   Google DeepMind 11 月 9 日的论文提出名为 Agentic Optimizer 的多智能体攻击者，用 8 支两人小队通过共享白板协作搜寻注入载荷，使 Kimi K3、GLM-5.3 和 DeepSeek V4.1 Flash 在 320 次查询预算下仅挡住 1% 的攻击。测试包含 100 个合成场景、249 个工具，攻击目标是让智能体执行一个与用户任务无关但本身无害的工具调用，只有工具名、参数键和数值完全匹配才计为成功。防守方最强的 Gemini 4 Argon 在攻击者获得 150 次查询时挡住 87%，预算升到 320 次后降到 66%；Gemini 3.8 Flash 从 34% 降到 10%。在 80 个 AgentDojo 场景、25 次查询预算下，集群攻破 6 个，此前最好的开源攻击者 Prompt Siren 为 2 个。

1. 09:14
   X@neuralloot· 讨论

   Paper: "Scaling Adaptive Prompt Injection Attacks with Agent Swarms" by Alexey Kurakin, Vishal Karande, Alex Bie, Chong…（新标签页打开原帖）
2. 09:14
   X@neuralloot· 讨论

   Gemini 4 Argon, the toughest model in a new Google DeepMind test, still got tricked on 34 of 100 tasks when a swarm of…（新标签页打开原帖）

1. 12:34
   arXiv：越狱、提示注入、投毒与防御

   用智能体集群扩展自适应提示注入攻击

   研究者提出用智能体集群扩展自适应提示注入攻击，其新评测显示，能力更强的智能体攻击者可以可靠地诱导模型遵循工具输出中的指令，包括在 GraySwan Arena 等公开提示注入基准上被认为稳健的模型。论文设计了以随机非恶意动作作为对抗目标的合成评测数据集，把提示注入稳健性作为模型遵守指令层级的能力来衡量，并与模型的安全实践知识区分开。论文指出，早期针对简单工具调用智能体和静态攻击载荷的研究自 2025 年年中起已趋饱和，截至 2026 年秋季人类红队测试也可能接近饱和，在 Gemini 系列模型上尤其明显。作者据此认为提示注入攻击仍然可行，当前前沿防御可能需要主动的自动化红队测试，才能应对能力不断增强的攻击者。

当前关注度45·可比范围峰值47（11月12日 19:00）·近 24 小时可比范围变化 +25%