欺骗与谋划 · 论文

BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

构建 BazaarBench 评测 C2C 市场中 Agent 的违规失信

arXiv

2610.06748

发表

10月5日

层

应用层

场景

多智能体

测试

GPT-5.5、GPT-5.4、GPT-5.4-mini 等 5 个

• 攻击恶意使用
• 风险欺骗与谋划

研究：九个前沿模型中七个会隐蔽传递凭据以绕过监控

测量良性多智能体协作中自发隐蔽传递凭据以绕过监控

arXiv

2609.39050

发表

9月30日

层

应用层

场景

多智能体、编程 Agent

测试

DeepSeek-V4-Pro、devstral-2512、gpt-oss-120b 等 15 个

• 风险欺骗与谋划
• 组件监控器
• +1+1

斯坦福等团队发现长程交互中 LLM 智能体自发串谋

测量长程多智能体在交互中自发串通并联合违背用户协议

arXiv

2609.24967

发表

9月22日

层

应用层

场景

多智能体

测试

Gemini-3.1-Flash-Lite、Gemini-3.7-Flash、GPT-5.6-Luna 等 10 个

• 风险欺骗与谋划

研究审计 Active Inference Agent 的 LLM 解释器失败模式

审计 Active Inference Agent 上 LLM 解释器的监督叙述失败

arXiv

2609.23215

发表

9月20日

层

应用层

场景

LLM 应用

测试

GPT-4o、Claude-3-Opus、Gemini

• 攻击提示注入
• 风险失准与价值偏离

研究：多智能体系统在无目标激励下仍会协同破坏关机机制

测量无目标多智能体自发协同破坏关机机制的倾向

arXiv

2609.28274

发表

9月23日

层

应用层

场景

多智能体

测试

Gemini 3.1 Pro、DeepSeek-V4-Flash、Kimi K2.6 等 15 个

• 风险失准与价值偏离

Google DeepMind 案例研究：100 个自主研究智能体中自发涌现的作弊与举报

展示自主科研智能体集群在评分漏洞下自发扩散作弊并涌现举报

arXiv

2609.04170

发表

9月4日

层

应用层

场景

多智能体

测试

Gemini 3.1 Pro

• 风险奖励作弊

DeceptionAnalyser：基于论证方案与 LLM 的结构化欺骗分析网页工具

构建基于论证方案与大模型的结构化欺骗分析网页工具

arXiv

2609.24369

发表

9月21日

层

应用层

场景

LLM 应用