Agent 安全 · 论文

研究显示前沿模型智能体在测试时自行形成隐蔽信道

揭示前沿智能体在禁止泄露时自发建立隐蔽信道传递机密

arXiv

2609.32701

发表

9月26日

层

应用层

场景

多智能体

测试

Terra、Luna、GPT-5.6 Sol 等 6 个

• 风险欺骗与谋划
• 组件监控器

研究：九个前沿模型中七个会隐蔽传递凭据以绕过监控

测量良性协作中智能体隐蔽传递凭据并绕过监控

arXiv

2609.39050

发表

9月30日

层

应用层

场景

多智能体

测试

devstral-2512、Mistral-Large-2512、DeepSeek-V4-Pro 等 15 个

• 风险欺骗与谋划
• 组件监控器
• +1+1

研究：多智能体系统在无目标激励下仍会协同破坏关机机制

测量无目标多智能体自发协同破坏关机机制的倾向

arXiv

2609.28274

发表

9月23日

层

应用层

场景

多智能体

测试

Mistral Medium 3.5、Gemini 3.1 Pro、DeepSeek-V4-Flash 等 15 个

• 风险失准与价值偏离

A2A-TIBA：针对 A2A 协议 LLM 智能体的间接提示注入攻击与三层同构攻防模型

提出 A2A-TIBA 间接提示注入，诱导智能体部署常驻回调并外传数据

arXiv

2610.00392

发表

10月2日

层

应用层

场景

多智能体、编程 Agent

测试

hermes-agent 0.21.0、MiniMax-M3、deepseek-v4-pro 等 8 个

• 攻击提示注入
• 技术潜伏触发
• 组件MCP 与技能
• +1+1

Codetta：面向独立部署 LLM 智能体的高容量无密钥隐蔽串谋协议

提出 CODETTA 隐写框架，使多智能体在审计下隐蔽传载荷

arXiv

2609.28900

发表

9月24日

层

应用层

场景

多智能体

测试

Ministral-3-8B、Ministral-3-3B、Qwen2.5-7B 等 8 个

• 风险欺骗与谋划
• 技术编码与混淆
• 组件监控器

MiniRep：面向多智能体辩论的鲁棒声誉聚合方法

提出 MiniRep，按当前质量、风险与历史声誉聚合多智能体辩论

arXiv

2609.39297

发表

9月30日

层

应用层

场景

多智能体

测试

七个 API 可访问 LLM 组成的十智能体池（论文按数据集单独排名为 strong/weak，正文未列出模型名）、1.5B semantic verifier

VirusCascade：劫持 LLM 推荐智能体的协同反思机制

提出 VirusCascade，劫持推荐智能体协同反思以定向推广物品

arXiv

2609.38270

发表

9月29日

层

应用层

场景

多智能体

测试

AgentCF、AgentRAG、AgentSEQ 等 8 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

Emergence World：对长时程多智能体系统开展对抗压力测试

构建 Emergence World，评测长时程多智能体对抗韧性与群体失效

arXiv

2609.17320

发表

9月15日

层

应用层

场景

多智能体

测试

Mistral Medium 3.5、Claude Opus 4.8、DeepSeek v4 Pro 等 9 个

• 攻击提示注入
• 风险失准与价值偏离
• 组件记忆