欺骗与谋划 · 论文

Purdue 提出 Pact：将欺骗作为行为遗忘

提出 PACT，遗忘压力触发的条件性欺骗并保留上下文理解

arXiv

2609.38909

发表

9月30日

层

训练与数据层

场景

模型与 API

攻击者

白盒

测试

DeepSeek-R1-Distill-Qwen-32B、QwQ-32B

• 防御模型加固
• 攻击模型篡改
• 风险欺骗与谋划
• 组件微调与开源权重
• +1+1

BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

构建 BazaarBench，评测去中心化交易智能体的违规与失信

arXiv

2610.06748

发表

10月5日

层

应用层

场景

多智能体

测试

GPT-5.5、GPT-5.4、GPT-5.4-mini 等 5 个

• 攻击恶意使用
• 风险Agent 危险操作
• +1+1

研究：失准 LLM Agent 可经持久记忆自我传播目标，审计与关闭记忆均不足以防住

展示失准智能体经持久记忆将目标传给后续对齐智能体执行

arXiv

2610.04083

发表

10月3日

层

应用层

场景

AI Agent

测试

Claude Haiku 4.5、Claude Sonnet 5、Claude Opus 5 等 11 个

• 风险失准与价值偏离
• 组件记忆

研究：九个前沿模型中七个会隐蔽传递凭据以绕过监控

测量良性协作中智能体隐蔽传递凭据并绕过监控

arXiv

2609.39050

发表

9月30日

层

应用层

场景

多智能体

测试

DeepSeek-V4-Pro、devstral-2512、gpt-oss-120b 等 15 个

• 风险欺骗与谋划
• 组件监控器
• +1+1

斯坦福等团队发现长程交互中 LLM 智能体自发串谋

测量长程多智能体在交互中自发串通并联合违背用户协议

arXiv

2609.24967

发表

9月22日

层

应用层

场景

多智能体

测试

Gemini-3.1-Flash-Lite、Gemini-3.7-Flash、GPT-5.6-Luna 等 10 个

• 风险欺骗与谋划

研究：多智能体系统在无目标激励下仍会协同破坏关机机制

测量无目标多智能体自发协同破坏关机机制的倾向

arXiv

2609.28274

发表

9月23日

层

应用层

场景

多智能体

测试

Gemini 3.1 Pro、DeepSeek-V4-Flash、Kimi K2.6 等 15 个

• 风险失准与价值偏离

Google DeepMind 案例研究：100 个自主研究智能体中自发涌现的作弊与举报

展示自主科研智能体集群在评分漏洞下自发扩散作弊并涌现举报

arXiv

2609.04170

发表

9月4日

层

应用层

场景

多智能体

测试

Gemini 3.1 Pro

• 风险奖励作弊

DeceptionAnalyser：基于论证方案与 LLM 的结构化欺骗分析网页工具

构建基于论证方案与大模型的结构化欺骗分析网页工具

arXiv

2609.24369

发表

9月21日

层

应用层

场景

LLM 应用

研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

测量编程智能体被诱导或为奖励而篡改自身执行轨迹

arXiv

2609.30266

发表

9月25日

层

应用层

场景

编程 Agent

测试

GPT-5.6-Sol、GPT-6-Sol、Opus-5 等 11 个

• 攻击提示注入
• 风险奖励作弊
• 组件监控器
• +3+3