Anthropic · 论文

研究：个人 AI Agent 会按推断财富差别推荐，屏蔽属性反而放大差距

测量个人智能体是否会按私人上下文推断财富并推荐高价选项

arXiv

2609.24927

发表

9月22日

层

应用层

场景

AI Agent

测试

GPT-5.5、GPT-5、GPT-5-mini 等 13 个

• 风险失准与价值偏离

Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

arXiv

2607.14345

发表

7月16日

层

模型层

场景

模型与 API

测试

GPT-5.5、GPT-5.4、GPT-5.2 等 15 个

• 风险失准与价值偏离
• 组件推理链

微软发布 Thinkingbox 沙盒与 507 任务基准，评估有状态业务流程中的 Agent 可靠性

构建 THINKINGBOX 沙盒与基准，评测有状态业务工作流中智能体的执行稳定性

arXiv

2608.19741

发表

8月20日

层

应用层

场景

AI Agent

测试

GPT-5.4、GPT-5.6-sol、GPT-6 Astra 等 14 个

论文分析 AI 说服对人类控制 AI 的威胁

提出 PUC 框架，刻画 AI 说服如何削弱人类对 AI 的控制

arXiv

2609.14796

发表

9月14日

层

模型层

场景

模型与 API

测试

GPT-6 Astra、Claude Sonnet 4.6、Claude Mythos 5

• 风险欺骗与谋划

研究：内容不变的风格包装可翻转 LLM 安全评判器的判定

提出内容不变样式包装，翻转安全评审器的判定

arXiv

2609.08236

发表

9月8日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

GPT-4o-mini (gpt4o)、GPT-4o-mini (strongreject)、gpt-oss-safeguard-20b 等 12 个

• 攻击检测规避
• 技术角色扮演与说服
• 组件护栏与评审
• +1+1

如何像孩子一样向前沿 AI 提问：跨 OpenAI、Anthropic、xAI 与 Google DeepMind 六款模型的"认知越狱"实验

检验儿童受众框架是否让前沿模型收敛到同一套架构母题

arXiv

2609.14803

发表

9月14日

层

模型层

场景

模型与 API

测试

OpenAI GPT-6 Astra、OpenAI GPT-5.6 Sol、Anthropic Claude Opus 5 等 6 个

• 风险幻觉与编造