可解释性arXiv 2610.12361
研究：法律推理模型引用法条不等于依据法条
用依据置换与隐层追踪审计法律思维链是否真正依赖所引法条
- arXiv
- 2610.12361
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen3-8B、Qwen3-14B、Llama-3.1-8B 等 7 个
摘要作者通过依据置换反事实与内部承诺追踪发现法律 CoT 裁决对依据依赖度有限，且易受提示注入操纵。
本研究针对法律领域大语言模型思维链推理中引用法律依据的因果真实性展开实证审计。
- 分析与理论arXiv 2610.09667
东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核
揭示推理模型用标识符规则替代随机抽样，使审计可被预测
- arXiv
- 2610.09667
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- GPT-6 Sol、GPT-6 Luna、GPT-5.4 mini 等 6 个
- 组件推理链
摘要研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。
- 分析与理论arXiv 2610.09517
审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度
开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知
- arXiv
- 2610.09517
- 发表
- 层
- 模型层
- 场景
- 具身与机器人
- 被测模型
- CLIP ViT-B/32、CLIP ViT-L/14、Qwen2-VL-7B
- 组件视觉
摘要论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。
本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。
- 可解释性arXiv 2610.09384
人格层级模型解释微调 LLM 的上下文泛化
提出人格层级模型并设计 PPR 抑制奖励作弊的跨上下文泛化
- arXiv
- 2610.09384
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen3-4B、Llama-3.1-8B-Instruct
摘要提出人格层级模型揭示微调跨上下文泛化规律，报告角色距离正相关性，通过 PPR 抑制 RL 作弊。
- 可解释性arXiv 2610.09087
U-Space：揭示语言模型不确定性何时与为何产生
提出 U-SPACE 与 U-LENS，从残差流估计推理轨迹不确定性
- arXiv
- 2610.09087
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Gemma-4-31B-it、Qwen3.5-27B、Magistral-Small-2507
- 组件推理链
摘要U-SPACE 与 U-LENS 用语义方向和预测熵读推理不确定性，长度控制后仍高于所比基线。
U-SPACE 与 U-LENS 是面向推理模型的无训练读出：用语义方向定位不确定性的形式，并用一个轨迹分数区分更可能错的回答。
- 可解释性arXiv 2610.09000
研究定位 LLaMA-2-7B-Chat 安全敏感参数
定位安全敏感参数并稀疏改动权重以削弱安全对齐
- arXiv
- 2610.09000
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- LLaMA-2-7B-Chat
- 可解释性arXiv 2610.08559
研究：LLM 潜在空间去偏方向主要编码置信度而非公平性
分析 LLM 去偏激活方向，发现其编码置信度而非公平性
- arXiv
- 2610.08559
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个
摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
- 可解释性arXiv 2610.08552
AnyBottle：只保留真正需要的概念，构建紧凑任务专属概念瓶颈模型
提出 ANYBOTTLE，按教师残差从无监督概念池筛选紧凑概念瓶颈
- arXiv
- 2610.08552
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- CLIP-DINOiser、Gemma-2-2B、Gemma-3-1B-it
摘要ANYBOTTLE 用教师残差选出紧凑概念集，并以 nested dropout 按样本调节概念预算。
ANYBOTTLE 是一套用冻结骨干和无监督概念池构建任务专用概念瓶颈的配方，目标是去掉概念标注后仍保持小词表。
- 分析与理论arXiv 2610.08178
研究给出潜空间图像水印的鲁棒性上限理论分析
分析潜空间图像水印对像素扰动的内在鲁棒性上限
- arXiv
- 2610.08178
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Stable Diffusion v2-1
摘要作者称当前潜空间水印在低 FPR 下受扩张映射与分布偏移的限制。
- 分析与理论arXiv 2610.08144
新论文称 Lean 验证不能为 OpenAI 的 Navier-Stokes 自然语言证明背书
论证 Lean 编译通过不能保证自然语言数学证明语义忠实
- arXiv
- 2610.08144
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- ChatGPT-6 (Astra Ultra)
摘要论文论证了形式化编译不保证原证明正确，确立了消歧不可计算性理论，并揭示了 OpenAI 爆破证明中的具体脱节。
- 分析与理论arXiv 2610.07798
研究：财务信息披露越少，Llama-3.1-8B-Instruct 的理财建议越受身份影响
测量财务事实变少时身份对股权配置建议的替代
- arXiv
- 2610.07798
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Llama-3.1-8B-Instruct、Qwen2.5-1.5B-Instruct
- 风险偏见与歧视
摘要身份摆幅随披露减少上升。
同一财务只改人设，测量披露变薄时股权建议里的身份替代。
- 可解释性arXiv 2610.07791
研究：LLM 比人类更易产生错觉模式感知并导致虚假推理
比较 LLM 与人类的错觉模式知觉，并用 SAE 分析内部表示
- arXiv
- 2610.07791
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- GPT-3.5、GPT-4o、GPT-5 等 9 个
摘要作者称多数 LLM 的错觉模式知觉强于人类，并把行为联系到频率印象与分析特征。
作者研究 LLM 是否会在证据不支持时构造关系，并将这一失败称为错觉模式知觉，用来区别偏差、幻觉和鲁棒性。
- 可解释性arXiv 2610.07583
GraphCast 大气河机制的机制可解释性研究
用 SAE 识别天气模型内部的大气河概念并检验预报依赖
- arXiv
- 2610.07583
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- GraphCast
摘要GraphCast 未被给予 IVT，作者称它仍把大气河强度算成可干预的内部变量。
作者用稀疏自编码器读 GraphCast 如何在内部表示大气河，而不是只做输入归因。
- 可解释性arXiv 2610.07389
BeFOND 将稀疏自编码器的推断与学习统一为自然梯度流
提出 BeFOND，将稀疏自编码器的推断与学习统一为自然梯度流
- arXiv
- 2610.07389
- 发表
- 层
- 模型层
- 场景
- 模型与 API
摘要BeFOND 把推断与学习写成自然梯度流，并在合成词典恢复和 Gemma 特征指标上报告更高分数。
BeFOND是无编码器的迭代稀疏编码模型，把推断和词典学习写成同一变分自由能上的自然梯度流，用来恢复重叠或很少激活的特征。问题在于摊销编码器的一次前向难以处理 superposition，而在已学词典上只改推断也填不上恢复差距。推断误差会进入词典更新。
- 分析与理论arXiv 2610.06001
AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击
提出 AgentSpy，在系统调用层观测 Agent 行为并检测技能注入
- arXiv
- 2610.06001
- 发表
- 层
- 应用层
- 被测模型
- gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个
摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。
本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。
- 可解释性arXiv 2610.05541
研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答
提出 CAP 指标与 CSFD 算法，发现被抑制的安全特征
- arXiv
- 2610.05541
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个
- 风险拒答失当
摘要论文指出越狱通过抑制安全特征运作，提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。
- 分析与理论arXiv 2610.06163
SAGE：定位 LLM Agent 修复中最早偏离安全意图的环节
提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次
- arXiv
- 2610.06163
- 发表
- 层
- 应用层
- 被测模型
- GPT-5.5、Claude Opus 4.8、Gemini 3.1 Pro 等 6 个
摘要SAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。
SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。。
- 可解释性arXiv 2610.04925
TSAE：用于解释时间序列预测模型的结构化稀疏自编码器
提出 TSAE，用结构化稀疏自编码器解释时间序列预测模型隐特征
- arXiv
- 2610.04925
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- PatchTST、iTransformer、DLinear 等 4 个
摘要TSAE 用结构化 SAE 分解冻结预测隐状态。
TSAE 是插在冻结时间序列预测骨干上的结构化稀疏自编码器，用来把隐 token 分成可检查特征，并配有分轴协议 TSEVAL。
- 可解释性arXiv 2610.04907
为什么潜意识学习需要海量数据：从引导向量恢复看含噪逆问题
用转向向量恢复把阈下学习解释为含噪逆问题
- arXiv
- 2610.04907
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-7B-Instruct、Gemma-2-9B-IT
摘要作者用含噪 Fisher 求逆解释：软监督数百条可恢复转向向量，硬标签要大量独立载体。
这篇工作用可控的转向向量回收，解释阈下学习为什么通常要很多语义无关的载体。
- 可解释性arXiv 2610.04905
ScopeSAE 按预测相关性选择建模子空间，实现重建优于原始激活
提出 ScopeSAE，按预测相关度选层训练 SAE 以发现特征
- arXiv
- 2610.04905
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Llama-3.2-1B-Instruct、Qwen2.5-0.5B-Instruct、Qwen2.5-7B-Instruct 等 4 个
摘要ScopeSAE 按预测相关子空间训练 SAE，写回后的下一 token 交叉熵可以更低。
ScopeSAE 是一种为 SAE 选择建模子空间的可解释性方法，对象是 LLM 残差流上的下一 token 预测。