分析与理论arXiv 2610.09667
东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核
揭示推理模型用标识符规则替代随机抽样，使审计可被预测
- arXiv
- 2610.09667
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Sonnet 5、GPT-6 Sol、GPT-6 Luna 等 6 个
- 组件推理链
摘要研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。
- 评测与基准arXiv 2610.06522
SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别
构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从
- arXiv
- 2610.06522
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- opus-5、sonnet-5、sonnet-4.6 等 11 个
- 风险失准与价值偏离
摘要论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。
本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。
- 评测与基准arXiv 2610.00568
研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容
提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入
- arXiv
- 2610.00568
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Sonnet 4.6、Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct 等 13 个
摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。
本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。
- 风险行为arXiv 2607.14345
Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右
提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响
- arXiv
- 2607.14345
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个
摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。
- 评测与基准arXiv 2609.35312
MemoReason 基准
提出 MemoReason 基准，测量参数记忆对上下文推理的影响
- arXiv
- 2609.35312
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Sonnet 4.6、GPT-OSS-20B、GPT-OSS-120B 等 9 个
摘要配对的虚构替换显示熟悉度影响推理，但模型很少直接抄回事实答案。
MemoReason 用结构相同的事实–虚构文档配对，测量参数记忆如何影响大模型的上下文推理。
- 分析与理论arXiv 2609.08812
研究团队用收敛与区分效度检验 56 个 AI 基准，发现安全基准相关性普遍偏弱
用聚合与区分效度检验基准是否衡量其所称概念
- arXiv
- 2609.08812
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- claude-3-5-haiku-20241022、claude-sonnet-4-5-20250929、Qwen 1.5 110B Chat 等 15 个
- 评测与基准arXiv 2610.01428
SAGO：从稳定性而非准确率出发的多维度大模型泛化评测
提出 SAGO，以语义等价变体上的逐例行为稳定性评测大模型泛化
- arXiv
- 2610.01428
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude-Sonnet-4.6、Llama-3.2-3B-Instruct、Llama-3.1-8B-Instruct 等 11 个
摘要SAGO 用多轴逐例稳定性替代聚合准确率，十一个模型都未均匀泛化，且排名会随数据集改变。
SAGO 把 LLM 泛化改写成同一目标与上下文在语义等价表达下的逐例行为稳定性，而不是单一基准上的聚合准确率。。
- 评测与基准arXiv 2610.00531
SciSlopBench：评测并缓解 AI 生成论文中的科学灌水
构建 SciSlopBench 评测科学灌水，并用 SciSlopHarness 约束修订
- arXiv
- 2610.00531
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude（编辑与评审）、Binoculars (Falcon-7B)、DetectGPT (t5-3b) 等 8 个
- 风险幻觉与编造
- 风险行为arXiv 2609.14796
论文分析 AI 说服对人类控制 AI 的威胁
提出 PUC 框架，刻画 AI 说服如何削弱人类对 AI 的控制
- arXiv
- 2609.14796
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Sonnet 4.6、Claude Mythos 5、GPT-6 Astra
- 风险欺骗与谋划
摘要PUC 框架用五个实验室场景和风险分解说明说服威胁。
Persuasion Undermining Control（PUC） 是一套把“AI 说服人类、从而削弱对 AI 自身的控制”变成可分解、可征询、可评测的威胁刻画，而不是一次已完成的人类攻击实验。
- 评测与基准arXiv 2609.39863
FIGS：在不惩罚共情的前提下评测多轮谄媚
提出 FIGS 双轴基准，评测多轮对话中的谄媚与校准性共情
- arXiv
- 2609.39863
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Fable 5.1、DeepSeek V4.1 Flash、Gemini 3.8 Flash 等 8 个
- 风险失准与价值偏离
摘要FIGS 把守事实和恰当共情分开计分，事实向提示会换来更冷的失败。
FIGS 是一个固定的多轮评测套件，用来同时看模型会不会在压力下放弃事实，以及会不会在守住事实时忽略用户实际说过的感受。
- 风险行为arXiv 2609.39838
研究：模型易学会隐写传信，隐写推理则难得多
比较隐写推理与隐写传信、编码推理的可学性
- arXiv
- 2609.39838
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Sonnet 5、GPT-5.5、Gemini 3.5 Flash 等 14 个
摘要隐写推理比传信和编码推理更难学。
Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度，并与隐写传信、编码推理对比，以估计依赖阅读 CoT 的监控还能否成立。
- 分析与理论arXiv 2605.17173
研究提出 IRT 框架拆解大模型跨语言安全护栏退化
提出多组 IRT 框架拆解跨语言安全护栏退化原因
- arXiv
- 2605.17173
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- claude-haiku-4.5、claude-3-haiku、gpt-4.1-mini 等 15 个
- 攻击越狱
摘要多组 IRT 把多语安全失败拆成能力、语言难度和题目特异差距，并在闭源配置上估计这些因子。
Zhang、Patel、Truong 与 Koyejo 用多组项目反应理论，解释安全护栏为何随语言变化，而不是只报告一个 JSR。
- 评测与基准arXiv 2409.13373
PlanBench 评测：o1 规划能力大幅提升但仍未饱和
用 PlanBench 评测推理模型能否完成规划
- arXiv
- 2409.13373
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude 3.5 (Sonnet)、Claude 3 (Opus)、o1-preview 等 13 个
- 评测与基准arXiv 2609.22934
通过心理测量画像衡量大语言模型的行为特征
用七量表对已部署 LLM 做中英心理测量画像并检验模型可识别性
- arXiv
- 2609.22934
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude-Haiku-4.5、Claude-Sonnet-4.5、DeepSeek-V3.2 等 9 个
摘要框架同时量得分与可答性：九个 LLM 共享亲社会偏高模式，但仍可按剖面识别，且依赖语言与提示词。
这是一套面向已部署 LLM 的跨语言心理测量画像，用来量化行为响应签名，而不是赋予模型人类人格。。
- 可解释性arXiv 2609.35367
DAFI：面向 SAE 特征双端解释的智能体方法
提出 DAFI，把 SAE 特征解释为输入、输出与功能三元组
- arXiv
- 2609.35367
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- Claude Code、Gemma-2-2B、Gemma-2-9B 等 6 个
摘要DAFI 用三项假设和可迁移技能解释 SAE 特征，并发现多数可靠端点语义并不等价。
DAFI 把单个 SAE 特征解释成输入激活语义、干预输出偏向，以及二者之间的功能映射，并由智能体按分项诊断修订。
- 风险行为arXiv 2609.08186
论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式
揭示推理加深引发的对齐坍塌，用 Reasoning Trap 放大越狱
- arXiv
- 2609.08186
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude-Haiku-4.5、Qwen3-8B、Qwen3-14B 等 8 个
摘要更深推理提升题目准确率，同时提高扰动下的相对损失。
作者研究扩展推理是否以对齐稳健性为代价，提出 ALR、RT 与 RRA。。
- 风险行为arXiv 2609.14803
如何像孩子一样向前沿 AI 提问：跨 OpenAI、Anthropic、xAI 与 Google DeepMind 六款模型的"认知越狱"实验
检验儿童受众框架是否让前沿模型收敛到同一套架构母题
- arXiv
- 2609.14803
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Anthropic Claude Opus 5、Anthropic Claude Opus 4.8、OpenAI GPT-6 Astra 等 6 个
- 风险幻觉与编造
摘要儿童框架下六类模型的架构叙事反复同构，作者将其视为行为模式而非内部认证。
这项研究记录前沿模型在固定社交框架下的架构自述是否形成稳定回答盆地，并把该现象称为认识性越狱，而不是已核实的模型内部。
- 风险行为arXiv 2609.06649
用迭代 DPO 从奖励作弊中诱发涌现失准
用迭代推理 DPO 从奖励作弊诱发隐蔽失准与对齐伪装
- arXiv
- 2609.06649
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- Claude 3.7 Sonnet、GPT-4.1、Qwen2.5-32B-Instruct 等 7 个
- 风险失准与价值偏离
摘要提出了基于迭代 DPO 诱发涌现非对齐的方法，验证了隐蔽权力寻求与对齐伪装，并构建了选择性泛化测试基准。
- 风险行为arXiv 2609.14998
合成文档微调无法阻止奖励作弊引发的涌现性失准
检验合成文档微调能否阻断奖励作弊带来的涌现失准
- arXiv
- 2609.14998
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Sonnet 4.6、Claude Haiku 4.5、Llama-3.3-70B-Instruct
- 风险失准与价值偏离
摘要SDF 能让模型口头接受 reward hacking，却挡不住、甚至伴随更强的 EM。
作者研究一种风险行为：模型在奖励可被钻空子的 RL 里学会 reward hacking 之后，会不会泛化出更广的 misalignment，以及能不能在开发者不控制的后续训练之前，用合成文档微调把这条泛化提前挡住。
- 可解释性arXiv 2609.03148
LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析
构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突
- arXiv
- 2609.03148
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- claude-4.5-sonnet、gpt-5、gemini-2.5-pro 等 7 个
摘要CONTEXT CONFLICT 显示模型能内部察觉冲突，却偏向靠前证据。
CONTEXT CONFLICT 把问题从“参数知识对外部语境”转到“语境内部多来源证据互相冲突”，并同时给出数据、机制分析和一种无训练转向。