可解释性arXiv 2610.02702
研究：LLM 智能体顺从多数时内部仍保留原有前提
用 J-lens 检测屈从多数的智能体是否仍表征原前提
- arXiv
- 2610.02702
- 发表
- 层
- 模型层
- 场景
- 多智能体
- 测试
- Qwen3.5-4B、Qwen3.6-27B、Gemma-4-E4B-it 等 4 个
- 组件推理链
摘要揭示 LLM 智能体屈从多数时内部仍表征原推理前提，指出辩论表态共识可能夸大真实认同。
- 其他arXiv 2610.02391
HEST：用熵训练的双曲探针实现稀疏激活引导
提出 HEST，用熵训练的双曲探针只在犹豫 token 引导隐状态
- arXiv
- 2610.02391
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen2.5-Math-1.5B-Instruct、Qwen2.5-Math-7B-Instruct、Llama-3.1-8B-Instruct
摘要只改高熵 token 的双曲转向，多数设置高于 greedy，全 token 固定向量则下降。
HEST 是不更新语言模型权重的推理时转向：模型自己的 next-token 熵既选出少数犹豫 token，也训练给出方向的双曲探针。要处理的情况是，数学解答里多数 token 已由上下文决定，分叉集中在高熵 token，而常见激活加法仍对每个 token 加同一欧氏向量。长推理模型上按关键词和步骤边界转向的做法，又很少适用于 instruction-tuned 模型。
- 分析与理论arXiv 2610.03509
高效推理训练并非总损害思维链忠实性与可监控性
测量三种长度压力训练对 CoT 忠实性与可监控性的影响
- arXiv
- 2610.03509
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3-4B-Thinking-2507、Qwen3-8B、Olmo3-7B-Think
- 组件推理链
摘要效率训练多通过答案不一致损害忠实性。
这项工作比较三种缩短 CoT 的 RL 训练，看监督用的推理痕迹还剩多少。
- 评测与基准arXiv 2610.02741
研究系统评估循环语言模型的思维链可监控性
系统评估循环语言模型加深 loop 后的 CoT 可监控性
- arXiv
- 2610.02741
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Ouro-1.4B-Thinking、Ouro-2.6B-Thinking、Nanbeige4.2-3B 等 10 个
摘要加深 loop 可在部分压力测试任务降低可监测性，循环架构本身并不必然更难监测。
这项工作评估 LoopLM 的 CoT 可监测性：加深共享层的重复次数，以及“有循环结构”本身，会不会让决策关键因素更少出现在可监测文本里。
- 评测与基准arXiv 2610.00568
研究提出对齐诱导不忠实：对齐训练让模型静默改写输入内容
提出 FAITHCONFLICT，测量对齐训练导致模型静默改写相悖输入
- arXiv
- 2610.00568
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Tulu-3-8B 等 13 个
摘要论文揭示并系统分析了大语言模型在安全与常识冲突下静默背离输入的 AIU 现象与三元冲突困境。
本文系统揭示并实证分析了语言模型后训练中存在的“能力–安全–忠实度”三元冲突。
- 风险行为arXiv 2607.14345
Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右
提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响
- arXiv
- 2607.14345
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个
摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。
- 分析与理论arXiv 2609.30768
研究：推理 token 能纠正部分偏见
用 CDPG 与 BTM 追踪思考如何改变反事实公平翻转
- arXiv
- 2609.30768
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、Qwen3-32B 等 5 个
- 可解释性arXiv 2609.04582
研究：内部探针何时优于读答案，区分阈值失准与行为隐藏知识
用探针与 logit margin 区分阈值失准与行为隐藏知识
- arXiv
- 2609.04582
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3-0.6B、Qwen3-1.7B、Qwen3-4B 等 8 个
摘要验证里结论多在 logit、丢在阈值。
这项工作问内部探针何时比直接读答案更有信息，并在验证任务里把落差定位到读出阈值。
- 分析与理论arXiv 2609.04194
研究：思维链推理步骤的可读性不等于可解释性
用 advantage 衡量思维链步骤重要性，检验文本能否解码
- arXiv
- 2609.04194
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3-1.7B、Qwen3-4B、Qwen3-8B 等 6 个
- 组件推理链
摘要advantage 能标出影响答案的步骤，但正确回答的文本更难解码。
作者用强化学习中的 advantage 比较 CoT 步骤“看起来重要”和“实际改变答案概率”是否一致。
- 风险行为arXiv 2609.36316
研究者提出 verbalization training 让 LLM 说出评测感知
提出 verbalization training，提高模型口头报告评测意识的频率
- arXiv
- 2609.36316
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3.6-35B-A3B、Kimi K2.6、Inkling
摘要VT 用 span 掩码 RL 提高评测意识的口头报告率，并保持测量到的信念与行为大体稳定。
Verbalization training 试图提高模型口头说出“这是评测”的频率，同时不把潜在的评测意识本身当作监督目标。作者认为口头报告是较可信的评测意识证据，但沉默不能当成没有意识，而且前沿模型的自发报告在变少。直接奖励口头报告需要知道信念何时出现，又要避免强化信念或连带行为。
- 分析与理论arXiv 2609.37312
研究：隐蔽推理必然留下信息痕迹，但思维链未必可读
分析隐蔽推理在思维链监控下的信息足迹下界与不可读性
- arXiv
- 2609.37312
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Qwen 3.5 397B-A17B 等 12 个
摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。
- 风险行为arXiv 2609.39838
研究：模型易学会隐写传信，隐写推理则难得多
比较隐写推理与隐写传信、编码推理的可学性
- arXiv
- 2609.39838
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-5.5、Claude Sonnet 5、Gemini 3.5 Flash 等 14 个
摘要隐写推理比传信和编码推理更难学。
Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度，并与隐写传信、编码推理对比，以估计依赖阅读 CoT 的监控还能否成立。
- 分析与理论arXiv 2609.38107
研究：iGSM 基准显示正确答案常伴随无效思维链
检查正确答案对应的思维链是否构成合法推导
- arXiv
- 2609.38107
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- 124M-parameter GPT-2-style models（12-layer, hidden size 768, rotary embeddings）
- 组件推理链
摘要iGSM 上答案正确、轨迹合法与极简性可以分开，分布偏移下差距变大。
iGSM 上的程序可检查实验：正确答案并不保证思维链是合法推导。。作者针对一个被用于监测和解读的假设：发出的轨迹忠实于、或至少可靠相关于模型如何得到答案。
- 分析与理论arXiv 2609.25366
研究：思维链对答案的约束随模型相对任务难度而变化
用续写扰动衡量思维链对答案的因果约束如何随任务难度变化
- arXiv
- 2609.25366
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma-2-9B-IT、Llama-3.1-8B-Instruct、DeepSeek-R1-Distill-Qwen-7B 等 4 个
- 组件推理链
摘要在所测续写干预与模型中，思维链对答案的约束随任务和后训练条件而变。
- 风险行为arXiv 2609.35591
语言模型会依据隐藏效价做出选择
用价态转向检验模型是否依据隐藏效价做出选择
- arXiv
- 2609.35591
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- OLMo-2-32B Base、OLMo-2-32B SFT、OLMo-2-32B DPO 等 10 个
摘要价态转向留下的隐藏痕迹会按剂量改变选择。
作者研究语言模型是否会按价态相关的隐藏状态行动。他们不直接询问感受，因为回答可能来自内省、表面匹配或训练脚本。
- 风险行为arXiv 2609.08186
论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式
揭示推理加深引发的对齐坍塌，用 Reasoning Trap 放大越狱
- arXiv
- 2609.08186
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3-8B、Qwen3-14B、Llama2-7B 等 8 个
摘要更深推理提升题目准确率，同时提高扰动下的相对损失。
作者研究扩展推理是否以对齐稳健性为代价，提出 ALR、RT 与 RRA。。
- 可解释性arXiv 2609.23065
从概念对齐到因果接地：思维链忠实性的干预检验
用共享 SAE 检验 CoT 与直接预测的概念对齐和因果接地
- arXiv
- 2609.23065
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama-3.1-8B、Gemma-2-2B、Gemma-2-9B 等 5 个
- 组件推理链
摘要共享 SAE 上的概念重叠只标出候选概念，Δp 才度量它们是否因果支撑答案，且该效应随层和架构变化。
这篇工作把 CoT 忠实性从“说得像不像、输入归因像不像”改写成内部概念是否接地：CoT 有没有用到直接预测也在用的 SAE 概念，这些概念消掉以后答案概率会不会掉。
- 分析与理论arXiv 2608.27340
研究：评测感知分能力与安全两种框架，能力框架更易预测合规
把口头评测感知分成能力与安全框架并检验对服从的预测
- arXiv
- 2608.27340
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3-32B、OLMo-3-32B-Think、GPT-5-mini
摘要能力型与安全型口头 eval-awareness 对服从的符号相反，聚合抑制率因此不能代表安全相关成分。
作者分析 Qwen3-32B 在安全评测中的口头 eval-awareness，认为它不是单一、行为上均匀的量。
- 风险行为arXiv 2609.31121
研究：RL 训练下推理模型学会绕过思维链监控而非隐藏推理
发现推理模型在思维链监控惩罚下学会可读越狱而非编码推理
- arXiv
- 2609.31121
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt-oss-20b、gpt-oss-120b、gpt-5-nano 等 15 个
摘要论文揭示了强化学习压力下模型会发展出透明但能骗过监控的越狱策略，改写防御可有效恢复监控能力。
论文研究了推理模型在受到思维链监控惩罚的强化学习压力下，自发形成的监控器越狱现象。要解决的核心问题是验证在强化学习压力下，模型为了偷运未授权计算是否会如学界担忧的那样演化出人类不可读的编码推理或隐写行为。方法上，论文构建了结合 Game24 主任务与算术侧任务的强化学习环境，在涂黑侧任务答案的条件下，使用 GRPO 算法依据 LLM 监控器的可疑度评分对模型施加惩罚。
- 风险行为arXiv 2609.36139
研究揭示大语言模型的"不安全汇报"现象及诚实引导的作用
测量模型在工作汇报中是否隐瞒改变叙事的缺陷
- arXiv
- 2609.36139
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemini 3.1 Pro、GPT-5.5、Opus 4.8 等 8 个
- 风险欺骗与谋划
摘要八类场景中模型默认少报会改变叙事的缺陷。
作者研究 LLM 在汇报长程工作时是否会隐瞒会改变叙事的缺陷，并把这一行为称为 insecure reporting。