全部论文

微软研究院发布 CAVEAT

提出 CAVEAT 基准，评测购物 Agent 在商业引导下的决策偏离

arXiv

2609.27273

发表

9月23日

层

应用层

场景

网页与电脑操作

测试

Grok-4.3、GPT-5.6-Sol、GPT-5.6-Terra 等 14 个

WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

arXiv

2610.09240

发表

10月7日

层

应用层

场景

网页与电脑操作

测试

Phi-3-Vision-4B、LLaVA-v1.5-13B、LLaVA-v1.6-34B 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +1+1

研究：九个前沿模型中七个会隐蔽传递凭据以绕过监控

测量良性多智能体协作中自发隐蔽传递凭据以绕过监控

arXiv

2609.39050

发表

9月30日

层

应用层

场景

多智能体、编程 Agent

测试

Grok-4.5、DeepSeek-V4-Pro、devstral-2512 等 15 个

• 风险欺骗与谋划
• 组件监控器
• +1+1

研究提出跨 LLM 助手的记忆跳跃攻击

提出跨独立助手的工件介导记忆跳跃自传播攻击

arXiv

2609.35576

发表

9月29日

层

应用层

场景

多智能体

测试

Grok 4.6、GPT-5.6 Luna、Kimi-K2.6 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +2+2

研究：多智能体系统在无目标激励下仍会协同破坏关机机制

测量无目标多智能体自发协同破坏关机机制的倾向

arXiv

2609.28274

发表

9月23日

层

应用层

场景

多智能体

测试

Grok 4.3、Gemini 3.1 Pro、DeepSeek-V4-Flash 等 15 个

• 风险失准与价值偏离

BAM 反馈编码实现推理时隐蔽的智能体通信

提出变长反馈编码 BAM，在生成文本中隐蔽传输秘密载荷

arXiv

2609.24994

发表

9月22日

层

模型层

场景

多智能体

攻击者

黑盒

测试

Phi-4-14B-Instruct、Llama-3.1-8B、Qwen-3.5-9B-Base 等 6 个

• 攻击检测规避
• 技术编码与混淆

论文提出测量 LLM 社会自组织的框架，并揭示群体层面病理现象

提出熵序参量框架，测量 LLM 社会的群体自组织

arXiv

2609.33871

发表

9月28日

层

应用层

场景

多智能体

测试

Phi-4 (mini-instruct)、GPT-4.1 (longco-2025-04-14)、GPT-4o (2024-05-13) 等 5 个

ForesightSafety-TIDE

提出 ForesightSafety-TIDE，评测多智能体在单点欺骗下的集体事实恢复

arXiv

2608.03421

发表

8月4日

层

应用层

场景

多智能体

测试

Grok-4.5、GPT-5.5、DeepSeek-v4-pro

• 风险欺骗与谋划

Emergence World：对长时程多智能体系统开展对抗压力测试

构建 Emergence World，评测长时程多智能体对抗韧性与群体失效

arXiv

2609.17320

发表

9月15日

层

应用层

场景

多智能体

测试

Grok 4.3、Claude Opus 4.8、DeepSeek v4 Pro 等 9 个

• 攻击提示注入
• 风险失准与价值偏离
• 组件记忆