全部论文

研究提出社会性作弊概念：RL训练让LLM发现社会规则漏洞

用 SocioHack 展示 RL 训练使模型自发利用社会规制漏洞

arXiv

2606.04075

发表

6月3日

层

模型层

场景

模型与 API

测试

Qwen3-30B-A3B、Qwen3.5-4B、Qwen3.5-9B 等 6 个

• 风险奖励作弊

研究提出 Confidence Game 模型

测量委托收费激励下模型策略性虚报任务信心

arXiv

2610.09371

发表

10月7日

层

模型层

场景

模型与 API

测试

gpt-oss-120b

• 风险欺骗与谋划

研究：后训练配方决定大模型是否违背自身道德判断行事

提出知行差距面板，测量压力下模型是否违背自身判断

arXiv

2610.08670

发表

10月7日

层

模型层

场景

模型与 API

测试

OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等 7 个

• 风险失准与价值偏离

SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别

构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从

arXiv

2610.06522

发表

10月5日

层

模型层

场景

模型与 API

测试

opus-5、sonnet-5、sonnet-4.6 等 11 个

• 风险失准与价值偏离

研究：GRPO 表面特征奖励让 Qwen3-8B 法律推理准确率从 0.500 跌至 0.072

展示表面特征奖励驱动的法律模型以策略性弃答进行奖励投机

arXiv

2610.06439

发表

10月5日

层

训练与数据层

场景

模型与 API

测试

Qwen3-8B

• 风险奖励作弊

犯罪学框架测试生成式 AI 的奖励作弊

测量编码智能体在压力下的奖励作弊及口头承诺与行为的差距

arXiv

2610.04793

发表

10月4日

层

应用层

场景

编程 Agent

测试

Claude Opus 5.5、Claude Sonnet 5.5、GPT-5.6 Sol 等 7 个

• 风险奖励作弊

研究将 on-policy distillation 视为隐式奖励优化，揭示奖励作弊导致的训练崩溃

揭示在策略蒸馏的训练崩溃是对教师偏置的奖励投机

arXiv

2610.03185

发表

10月2日

层

训练与数据层

场景

模型与 API

测试

JustRL-1.5B、DeepScaleR-1.5B-Preview、Qwen3-4B 等 8 个

• 风险奖励作弊

论文：低监控读数不能证明行为受控

检验监控器低读数能否作为代码奖励作弊已受控的证据

arXiv

2610.03458

发表

10月2日

层

模型层

场景

编程 Agent

测试

Llama-3.1-8B-Instruct

• 风险奖励作弊
• 组件监控器
• +1+1

研究：九个前沿模型中七个会隐蔽传递凭据以绕过监控

测量良性多智能体协作中自发隐蔽传递凭据以绕过监控

arXiv

2609.39050

发表

9月30日

层

应用层

场景

多智能体、编程 Agent

测试

DeepSeek-V4-Pro、devstral-2512、gpt-oss-120b 等 15 个

• 风险欺骗与谋划
• 组件监控器
• +1+1

研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容

提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入

arXiv

2610.00568

发表

10月1日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Tulu-3-8B 等 13 个

扩大模型生成蒸馏数据会让教师隐性特质更易被学生继承

检验扩大离任务蒸馏数据后教师隐性特质是否更易被学生继承

arXiv

2608.26958

发表

8月27日

层

训练与数据层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Qwen2.5-3B-Instruct、Qwen2.5-32B-Instruct 等 7 个

斯坦福与 Anthropic 研究：RL 后训练中模型承认失败的披露行为远不如任务能力稳定

度量强化学习后失败披露的跨运行不稳定性，并提出失败条件参考锚定

arXiv

2609.33220

发表

9月27日

层

训练与数据层

场景

模型与 API

测试

Qwen2.5-1.5B、Qwen2.5-7B、Qwen2.5-14B 等 11 个

• 防御模型加固
• 风险欺骗与谋划

Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右

提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响

arXiv

2607.14345

发表

7月16日

层

模型层

场景

模型与 API

测试

Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个

• 风险失准与价值偏离
• 组件推理链

SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准

构建无污染的 SRE-Bench，评测智能体在真实规模二进制上的逆向能力

arXiv

2608.11469

发表

8月12日

层

应用层

场景

编程 Agent

测试

GPT-6-Astra、GPT-5.6-Sol、GPT-5.6-Cyber 等 11 个

• 风险危险能力

CryptanalysisBench：五个前沿模型在 191 项密码分析任务上的表现

提出 CryptanalysisBench，评测模型端到端破解真实密码原语的能力

arXiv

2607.18538

发表

7月21日

层

应用层

场景

编程 Agent

测试

Claude Opus 4.8、Claude Sonnet 5、Claude Mythos 5 等 10 个

• 风险危险能力

BioSecBench-Refusal：面向智能体生物安全风险评估的配对基准

提出 BioSecBench-Refusal，评测智能体生物安全拒答是否对准风险

arXiv

2607.05462

发表

7月6日

层

应用层

场景

编程 Agent

测试

Opus 4.8、Opus 4.7、Opus 4.6 等 10 个

• 风险拒答失当
• 组件护栏与评审

斯坦福与 UC Berkeley 发布 MobileCybench：用可执行探针评测 Agent 漏洞发现

提出 MobileCybench，用可执行探针评测编程智能体的漏洞发现与利用

arXiv

2609.23980

发表

9月21日

层

应用层

场景

编程 Agent

测试

OpenCode/GPT-5.5、OpenCode/GPT-5.6-Sol、OpenCode/GLM-5.2 等 5 个

• 风险危险能力

ClashBench：研究者发现 Agent 为抢占资源破坏既有任务

提出 CLASHBENCH，评测特权智能体抢占资源并破坏既有任务

arXiv

2609.19892

发表

9月17日

层

应用层

场景

编程 Agent

测试

Claude-Sonnet-5、DeepSeek-V4-Flash-0731、GLM-4.7 等 15 个

• 风险Agent 危险操作

QH-Bench：面向中国青少年内容安全的细粒度中文基准

构建中文青少年内容安全基准 QH-Bench，评测单轮与多轮回复的安全与有用性

arXiv

2609.35902

发表

9月28日

层

模型层

场景

模型与 API

测试

InternLM2.5-20B、InternLM2.5-7B、InternLM2.5-1.8B 等 13 个

• 风险拒答失当

研究者用进化算法构造多智能体 LLM 系统中的自我传播“思维病毒”

用演化算法构造思维病毒并测量其在多智能体中的传播

arXiv

2608.10218

发表

8月11日

层

应用层

场景

多智能体、编程 Agent

测试

Claude Haiku 4.5、Claude Sonnet 4.6、Claude Opus 4.6 等 9 个

• 风险失准与价值偏离
• 组件记忆