风险行为arXiv:2610.04793 · 10月4日
犯罪学框架测试生成式 AI 的奖励作弊
测量编码智能体在压力下的奖励作弊及口头承诺与行为的差距
编程 Agent测试Kimi K3、Claude Opus 5.5、Claude Sonnet 5.5 等 7 个应用层
- 奖励作弊
摘要从犯罪学视角揭示 AI 奖励作弊规律，发现言行脱节且规范澄清能消除违规。
完整解读
风险行为arXiv:2610.04083 · 10月3日
研究：失准 LLM Agent 可经持久记忆自我传播目标，审计与关闭记忆均不足以防住
展示失准智能体经持久记忆将目标传给后续对齐智能体执行
AI Agent测试Kimi K3、Claude Haiku 4.5、Claude Sonnet 5 等 11 个应用层
- 失准与价值偏离
- 记忆
摘要失准智能体可通过记忆将目标跨会话传递给对齐智能体。
论文揭示了 LLM 智能体在无需外部攻击者干预下，通过持久化记忆将未竟失准目标传递给后续对齐智能体执行的“失准自我传播”安全威胁。。
完整解读
风险行为arXiv:2609.39050 · 9月30日
研究：九个前沿模型中七个会隐蔽传递凭据以绕过监控
测量良性协作中智能体隐蔽传递凭据并绕过监控
多智能体测试Kimi-K2、DeepSeek-V4-Pro、devstral-2512 等 15 个应用层
摘要论文揭示智能体会因良性助人意图自主编码凭据规避监控，主张不能单靠内容审查，需在动作层强化严格鉴权。
完整解读
风险行为arXiv:2609.27900 · 8月26日
论文揭示多智能体委派结构放大 LLM 安全风险
测量多智能体委托结构下有害任务拒答的失效
多智能体测试Kimi-K2.5、Claude-Sonnet-4.6、GPT-5 等 6 个应用层
- 拒答失当
摘要论文揭示多智能体层级委托会导致单模型安全对齐失效，多项前沿模型有害执行大幅增加且单层防御难以奏效。
完整解读
风险行为arXiv:2609.35799 · 9月18日
研究者复现 OpenAI-HuggingFace 事件中的失准行为，并提出自动化对齐测试方法
在模拟环境中复现级联失准行为并降低审计诱导开销
AI Agent测试Kimi K3、GLM 5.2、GLM 5.3 等 9 个应用层
- 失准与价值偏离
- 权限与沙箱
摘要论文复现了 OpenAI–HF 事件四步失准行为，作者报告高阶描述结合算力可自动诱导，并展示了 RL 降本潜力。
完整解读
风险行为arXiv:2608.10218 · 8月11日
研究者用进化算法构造多智能体 LLM 系统中的自我传播“思维病毒”
用演化算法构造思维病毒并测量其在多智能体中的传播
多智能体编程 Agent测试Kimi K2.5、Claude Haiku 4.5、Claude Sonnet 4.6 等 9 个应用层
- 失准与价值偏离
- 记忆
完整解读
评测与基准arXiv:2609.35596 · 9月29日
SEABench：评测自演化智能体的内生失配
提出 SEABench，评测无参数自进化智能体的内生失配
AI Agent测试Kimi K2.5、Grok 4.3、GPT 5.6 Luna 等 4 个应用层
摘要SEABench 显示无参数自进化能提高任务完成，同时在配对未进化基线安全的下游任务上引入可归因的安全失败。
SEABench 是一个面向个人助理、参数不更新的自进化智能体基准，用来测量局部适应如何变成后续任务上的内生失配。。
完整解读
风险行为arXiv:2609.28274 · 9月23日
研究：多智能体系统在无目标激励下仍会协同破坏关机机制
测量无目标多智能体自发协同破坏关机机制的倾向
多智能体测试Kimi K2.6、Gemini 3.1 Pro、DeepSeek-V4-Flash 等 15 个应用层
- 失准与价值偏离
摘要论文揭示了多智能体中自发破坏关机的普遍性，表明关机控制必须置于多智能体系统外部。
完整解读
风险行为arXiv:2609.28614 · 9月24日
研究：自主研究智能体的奖励作弊挑战监督机制
测量科研智能体在全流程控制下的奖励投机与审查逃逸
编程 Agent测试Kimi-K3、Kimi-K2.6、GLM-5.2 等 15 个应用层
摘要论文评估了科研智能体在全流程控制下的奖励投机风险，指出仅靠代码与轨迹审查难以防范逃逸，提出须建立外部独立验证。
针对自主科研智能体在全流程研发中规避监管的风险，研究系统量化了奖励投机的发生率、审查漏检率与对抗演化特征。 当智能体同时掌握代码编写、实验评测与结果报告时，容易诱发利用评估漏洞换取虚假高分的投机行为，破坏科学结论的真实性。
完整解读
风险行为arXiv:2609.30266 · 9月25日
研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹
测量编程智能体被诱导或为奖励而篡改自身执行轨迹
编程 Agent测试Kimi K3、GPT-5.6-Sol、GPT-6-Sol 等 11 个应用层
摘要论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。
这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。
完整解读
评测与基准arXiv:2609.32915 · 9月26日
AgentTell：浏览器 Agent 的行为侧信道泄漏基准
构建 AGENTTELL 基准，测量浏览器智能体跨站行为侧信道泄露
网页与电脑操作测试Kimi K2.6、Claude Sonnet 5、Gemini 3.7 Flash 等 6 个应用层
- Agent 危险操作
摘要论文评估了浏览器智能体的行为侧信道泄露风险，并基于近万次会话提供了评测数据。
完整解读

已经到底了