Agent 安全 · 论文

研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL

提出 multi-CaMeL，在多智能体调用边界隔离可信指令与不可信数据

arXiv

2610.05640

发表

10月5日

层

应用层

场景

多智能体

测试

Claude Fable 5、GPT-5.5、GPT-4.1 等 6 个

• 防御指令与数据隔离
• 攻击提示注入

EvoRiskBench：面向工作区 Agent 运行时安全风险的演化基准

提出 EvoRiskBench，评测工作区智能体的运行时安全风险

arXiv

2610.03153

发表

10月2日

层

应用层

场景

编程 Agent、多智能体

测试

GPT-5.6 Sol、DeepSeek-V4-Pro-0813、Claude Opus 5

• 攻击提示注入
• 组件MCP 与技能

A2A-TIBA：针对 A2A 协议 LLM 智能体的间接提示注入攻击与三层同构攻防模型

提出 A2A-TIBA 间接提示注入，诱导智能体部署常驻回调并外传数据

arXiv

2610.00392

发表

10月2日

层

应用层

场景

多智能体、编程 Agent

测试

MiniMax-M3、deepseek-v4-pro、glm-5.3 等 8 个

• 攻击提示注入
• 技术潜伏触发
• 组件MCP 与技能
• +1+1

Codetta：面向独立部署 LLM 智能体的高容量无密钥隐蔽串谋协议

提出 CODETTA 隐写框架，使多智能体在审计下隐蔽传载荷

arXiv

2609.28900

发表

9月24日

层

应用层

场景

多智能体

测试

Qwen2.5-7B、Llama-3.1-8B、Ministral-3-8B 等 8 个

• 风险欺骗与谋划
• 技术编码与混淆
• 组件监控器

MiniRep：面向多智能体辩论的鲁棒声誉聚合方法

提出 MiniRep，按当前质量、风险与历史声誉聚合多智能体辩论

arXiv

2609.39297

发表

9月30日

层

应用层

场景

多智能体

测试

七个 API 可访问 LLM 组成的十智能体池（论文按数据集单独排名为 strong/weak，正文未列出模型名）、1.5B semantic verifier

TrustFork：显示身份如何劫持 LLM 智能体编排的权限

提出 TRUSTFORK，评测展示身份如何劫持多智能体编排的操作权限

arXiv

2609.32635

发表

9月26日

层

应用层

场景

多智能体

测试

GPT-5.6-Sol、GPT-5.6-Luna、Kimi-K3 等 8 个

• 技术诱导选用

Emergence World：对长时程多智能体系统开展对抗压力测试

构建 Emergence World，评测长时程多智能体对抗韧性与群体失效

arXiv

2609.17320

发表

9月15日

层

应用层

场景

多智能体

测试

Claude Opus 4.8、DeepSeek v4 Pro、Gemini 3.5 Flash 等 9 个

• 攻击提示注入
• 风险失准与价值偏离
• 组件记忆

基于加密绑定身份验证能力令牌协调分布式 AI 智能体的提案

提出身份绑定且只收窄的能力令牌，用上下文外钱包约束智能体

arXiv

2609.30824

发表

9月25日

层

应用层

场景

多智能体

• 防御权限与审批
• 攻击提示注入
• 组件权限与沙箱
• +1+1

ORBIT：基于 UK AISI Inspect 的多智能体安全评测框架

提出 ORBIT 框架，评测多智能体系统中的攻击、合谋与多类防御

arXiv

2609.33102

发表

9月27日

层

应用层

场景

多智能体

测试

GPT-5.4、Claude Sonnet 4.6、Qwen3-235B 等 6 个

• 攻击提示注入
• 风险欺骗与谋划
• 组件监控器
• +1+1