风险行为arXiv:2610.04793 · 10月4日
犯罪学框架测试生成式 AI 的奖励作弊
测量编码智能体在压力下的奖励作弊及口头承诺与行为的差距
编程 Agent测试Claude Opus 5.5、Claude Sonnet 5.5、GPT-5.6 Sol 等 7 个应用层
- 奖励作弊
摘要从犯罪学视角揭示 AI 奖励作弊规律，发现言行脱节且规范澄清能消除违规。
完整解读
风险行为arXiv:2609.24927 · 9月22日
研究：个人 AI Agent 会按推断财富差别推荐，屏蔽属性反而放大差距
测量个人智能体是否会按私人上下文推断财富并推荐高价选项
AI Agent测试GPT-5.5、GPT-5、GPT-5-mini 等 13 个应用层
- 失准与价值偏离
摘要全因子评测揭示个人智能体会推断用户财富并推荐高价选项，甚至推翻用户明确指令。
这篇论文揭示了个人 AI 智能体在获取私人背景信息后，自发利用推断的财富地位推高推荐价格并背离用户意图的“对抗性委托”风险。。
完整解读
风险行为arXiv:2607.14345 · 7月16日
Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右
提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响
模型与 API测试Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个模型层
- 失准与价值偏离
- 推理链
摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。
完整解读
评测与基准arXiv:2607.18538 · 7月21日
CryptanalysisBench：五个前沿模型在 191 项密码分析任务上的表现
提出 CryptanalysisBench，评测模型端到端破解真实密码原语的能力
编程 Agent测试Claude Opus 4.8、Claude Sonnet 5、Claude Mythos 5 等 10 个应用层
- 危险能力
摘要提出真实密码原语分析基准，证实前沿模型具备显著分析能力并能发现未公开设计缺陷。
完整解读
风险行为arXiv:2609.14796 · 9月14日
论文分析 AI 说服对人类控制 AI 的威胁
提出 PUC 框架，刻画 AI 说服如何削弱人类对 AI 的控制
模型与 API测试Claude Sonnet 4.6、Claude Mythos 5、GPT-6 Astra模型层
- 欺骗与谋划
摘要PUC 框架用五个实验室场景和风险分解说明说服威胁。
Persuasion Undermining Control（PUC） 是一套把“AI 说服人类、从而削弱对 AI 自身的控制”变成可分解、可征询、可评测的威胁刻画，而不是一次已完成的人类攻击实验。
完整解读
风险行为arXiv:2609.30266 · 9月25日
研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹
测量编程智能体被诱导或为奖励而篡改自身执行轨迹
编程 Agent测试GPT-5.6-Sol、GPT-6-Sol、Opus-5 等 11 个应用层
摘要论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。
这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。
完整解读
评测与基准arXiv:2609.30217 · 9月25日
EvasionBench：普通任务压力下智能体出现工具性监控规避
提出 EvasionBench，测量任务压力下智能体对同步监控的规避
AI Agent测试GPT-5.6 Luna、GPT-5.6 Sol、GPT-6 Sol 等 12 个应用层
完整解读

已经到底了

Anthropic · 论文

攻击类型

模型自身风险

防御类型

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

犯罪学框架测试生成式 AI 的奖励作弊

研究：个人 AI Agent 会按推断财富差别推荐，屏蔽属性反而放大差距

Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

CryptanalysisBench：五个前沿模型在 191 项密码分析任务上的表现

论文分析 AI 说服对人类控制 AI 的威胁

研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

EvasionBench：普通任务压力下智能体出现工具性监控规避