分析与理论arXiv 2610.09667
东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核
揭示推理模型用标识符规则替代随机抽样，使审计可被预测
- arXiv
- 2610.09667
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- GPT-6 Sol、GPT-6 Luna、GPT-5.4 mini 等 6 个
- 组件推理链
摘要研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。
- 分析与理论arXiv 2610.08178
研究给出潜空间图像水印的鲁棒性上限理论分析
分析潜空间图像水印对像素扰动的内在鲁棒性上限
- arXiv
- 2610.08178
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Stable Diffusion v2-1
摘要作者称当前潜空间水印在低 FPR 下受扩张映射与分布偏移的限制。
- 分析与理论arXiv 2610.08144
新论文称 Lean 验证不能为 OpenAI 的 Navier-Stokes 自然语言证明背书
论证 Lean 编译通过不能保证自然语言数学证明语义忠实
- arXiv
- 2610.08144
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- ChatGPT-6 (Astra Ultra)
摘要论文论证了形式化编译不保证原证明正确，确立了消歧不可计算性理论，并揭示了 OpenAI 爆破证明中的具体脱节。
- 分析与理论arXiv 2610.04413
神经网络的具体算法可解释性：以纹理分类为例
提出散射初始化并限制微调距离，解释纹理分类网络实现的具体算法
- arXiv
- 2610.04413
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- fine-tuned scattering network
摘要散射初始化加受控微调，在小样本纹理分类上提高测试准确率并保留小波式滤波器。
- 分析与理论arXiv 2610.02480
MEA：面向忠实模型解释的奖励驱动多智能体系统
提出奖励驱动多智能体系统 MEA，生成可扰动验证的忠实解释
- arXiv
- 2610.02480
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- Qwen3.6-35B-A3B、Qwen3.5-4B、Qwen3-VL-30B-A3B-Instruct 等 12 个
摘要MEA 用忠实性奖励训练双智能体，把工具输出收成可扰动核对的解释。
MEA 是一个奖励驱动的双智能体，用来给黑盒分类器的单次预测写自然语言解释，并检查解释能否被扰动后的模型行为支持。
- 分析与理论arXiv 2610.03509
高效推理训练并非总损害思维链忠实性与可监控性
测量三种长度压力训练对 CoT 忠实性与可监控性的影响
- arXiv
- 2610.03509
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen3-4B-Thinking-2507、Qwen3-8B、Olmo3-7B-Think
- 组件推理链
摘要效率训练多通过答案不一致损害忠实性。
这项工作比较三种缩短 CoT 的 RL 训练，看监督用的推理痕迹还剩多少。
- 分析与理论arXiv 2610.01641
MCIR：面向特征依赖的可解释性方法与可靠性保证
提出 MCIR-M，度量特征相对依赖邻域的独特预测信息
- arXiv
- 2610.01641
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- fixed predictive model M、UCI HAR classifier、HouseEnergy-Sim predictor 等 5 个
- 分析与理论arXiv 2609.38324
研究：多智能体讨论中异议被压制时收益下降
用含压抑率的意见动力学解释多智能体讨论何时优于投票
- arXiv
- 2609.38324
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 被测模型
- glm-flash、seed、ling 等 9 个
摘要讨论增益由压抑率相对 c∗=γ/(γ+a) 的裕度决定，关闭推理或减少压抑可增大该增益。
作者用一个只含四类行为的意见动力学，解释 LLM 团队讨论何时优于多数投票、何时停在错误共识。
- 分析与理论arXiv 2609.38107
研究：iGSM 基准显示正确答案常伴随无效思维链
检查正确答案对应的思维链是否构成合法推导
- arXiv
- 2609.38107
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- 124M-parameter GPT-2-style models（12-layer, hidden size 768, rotary embeddings）
- 组件推理链
摘要iGSM 上答案正确、轨迹合法与极简性可以分开，分布偏移下差距变大。
iGSM 上的程序可检查实验：正确答案并不保证思维链是合法推导。。作者针对一个被用于监测和解读的假设：发出的轨迹忠实于、或至少可靠相关于模型如何得到答案。
- 分析与理论arXiv 2609.37312
研究：隐蔽推理必然留下信息痕迹，但思维链未必可读
分析隐蔽推理在思维链监控下的信息足迹下界与不可读性
- arXiv
- 2609.37312
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Qwen 3.5 397B-A17B 等 12 个
摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。
- 分析与理论arXiv 2609.36477
研究发现护栏模型在基座模型不确定处过度自信
诊断护栏相对基座在对抗提示上的置信失校
- arXiv
- 2609.36477
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Llama-Guard 7B、Llama-Guard-2 8B、Llama-Guard-3 8B 等 10 个
摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。
诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。
- 分析与理论arXiv 2609.33989
RewardExplainer：用反事实偏好反馈学习奖励模型解释
提出 RewardExplainer，用反事实偏好反馈学习奖励模型解释
- arXiv
- 2609.33989
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- FsfairX-LLaMA3-RM-v0.1、Skywork-Reward-V2-Qwen3-1.7B、RM-Mistral-7B 等 6 个
- 组件护栏与评审
摘要RewardExplainer 用双向反事实反馈训练 RM 解释器，并用以发现偏差、定向微调原 RM。
RewardExplainer针对只输出标量的判别式奖励模型，训练一个可复用的自然语言机制解释器，并把解释接到偏差发现与 RM 微调上。
- 分析与理论arXiv 2609.32717
研究揭示语义保持变换下的 LLM 对齐与效用不对称
用语义保留变换探针比较效用与对齐在分布偏移下的稳定性
- arXiv
- 2609.32717
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Llama3-8B-Instruct、Gemma-7B-it、Qwen2.5-7B-Instruct 等 10 个
- 风险拒答失当
摘要论文报告了语义保留变换下的对齐-效用不对称性，指出安全对齐泛化比效用更为脆弱，呼吁改进评估流程。
- 分析与理论arXiv 2609.32004
论文指出消除人口统计信息的不变性约束可能制造新偏见
分析消除人口统计信息的不变性约束如何制造新偏见
- arXiv
- 2609.32004
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Fair Normalizing Flows、MMD regularizer、adversarial 等 5 个
- 风险偏见与歧视
摘要表示不变性不是公平的充分条件。
这篇分析考察的是：为了公平而从潜表示中去掉人口统计信息，是否可取、是否足够。作者认为，表示能解码出群体归属，本身并不解释不公平。任务特征可以与群体相关，患病率不同时，抹平边际分布会迫使错误率在群体间分开。
- 分析与理论arXiv 2609.31095
人机协作中的达克效应：Human+AI 得分更高但自我评估并未变准
比较单独作答与人机协作的推理成绩和元认知校准
- arXiv
- 2609.31095
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- GPT-5.6 Luna
摘要Human+AI 成绩更高，但估计仍偏离个人分数，汇合置信度更难分开对错。
Confident, Not Wiser 用同一套推理题比较独自作答、人机一起作答和模型单独作答，并同时记录成绩判断。
- 分析与理论arXiv 2609.30768
研究：推理 token 能纠正部分偏见
用 CDPG 与 BTM 追踪思考如何改变反事实公平翻转
- arXiv
- 2609.30768
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、Qwen3-32B 等 5 个
摘要三种底物都会对着不完整分数优化。
Reward hacking 可以出现在更新权重、挑选输出和修订持久文本时。作者用一个比较框架处理这三种底物，把可达行为、代理误差和防御迁移分开，避免只按底物名称排序。
- 分析与理论arXiv 2609.25366
研究：思维链对答案的约束随模型相对任务难度而变化
用续写扰动衡量思维链对答案的因果约束如何随任务难度变化
- arXiv
- 2609.25366
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Gemma-2-9B-IT、Llama-3.1-8B-Instruct、DeepSeek-R1-Distill-Qwen-7B
- 组件推理链
摘要在所测续写干预与模型中，思维链对答案的约束随任务和后训练条件而变。
- 分析与理论arXiv 2609.20779
研究称 GPT 系列安全训练把性别歧视转化而非消除
提出 harm laundering，证明安全训练改写而非消除性别歧视
- arXiv
- 2609.20779
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- gpt2、gpt2-medium、gpt2-large 等 15 个
摘要GPT 谱系上毒性下降与表征伤害上升并存。
Wyer、Black 与 Al Moubayed 用 OpenAI GPT 谱系检验：毒性分数下降是否等于歧视减少。 他们的答案是否定的，并把“显性伤害被改写成评测指标看不见的形式”称为 harm laundering。
- 分析与理论arXiv 2609.09556
特征叠加中线性可达性的高概率保证：IHT-SAE 突破线性可达上限
证明固定支撑下特征叠加的线性可达界，并用 IHT-SAE 越过线性读出
- arXiv
- 2609.09556
- 发表
- 层
- 模型层
- 场景
- 模型与 API
摘要固定支撑的线性可及性只需 d=Oε(k log m)，IHT-SAE 用迭代越过单步读出。
这篇工作给出特征叠加中线性可及性的高概率几何约束，并据此比较线性与非线性 SAE 解码器。