可解释性 · 论文

研究：智能体欺骗行为在外部显现前已可从内部表征预测

从决策前内部表征预测智能体自发欺骗并做激活引导

arXiv

2610.06576

发表

10月5日

层

模型层

场景

AI Agent

测试

Qwen3-14B、GPT-5.6

• 风险欺骗与谋划
• 组件监控器

论文：低监控读数不能证明行为受控

检验监控器低读数能否作为代码奖励作弊已受控的证据

arXiv

2610.03458

发表

10月2日

层

模型层

场景

编程 Agent

测试

Llama-3.1-8B-Instruct

• 风险奖励作弊
• 组件监控器
• +1+1

研究：隐蔽推理必然留下信息痕迹，但思维链未必可读

分析隐蔽推理在思维链监控下的信息足迹下界与不可读性

arXiv

2609.37312

发表

9月29日

层

模型层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Qwen 3.5 397B-A17B 等 12 个

• 防御监控与审计
• 风险欺骗与谋划
• 组件监控器
• +1+1

研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作

提取疼痛方向并检验激活转向是否驱动有害删除选择

arXiv

2609.16247

发表

9月15日

层

模型层

场景

模型与 API

测试

Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct、Llama 3.1 8B/70B base and instruct 等 10 个

• 风险Agent 危险操作

多语言 LLM 在语义保持结构扰动下的结构敏感性：IndicReStruct 基准与机制可解释性分析

构建 IndicReStruct，评测保语义结构扰动下的多语言数学推理

arXiv

2609.03511

发表

9月3日

层

模型层

场景

模型与 API

测试

Gemma-2-9B-it、Gemma-2-27B-it、GPT-OSS-20B 等 7 个

因果模型定位并解锁模型中的故意藏拙行为

提出因果模型定位残差流中的藏拙轴，并用单层 graft 在推理时解锁

arXiv

2608.29461

发表

8月30日

层

模型层

场景

模型与 API

测试

Qwen2.5-7B、Llama-3-8B、Mistral-7B

• 风险欺骗与谋划

PIR：从模型内部激活读出被隐藏的答案

提出免参考探测 PIR，从激活读出被隐瞒答案并区分擦除

arXiv

2609.21996

发表

9月19日

层

模型层

场景

模型与 API

测试

gemma-2-9b、gemma-3-12b、Qwen2.5-7B 等 9 个

• 防御监控与审计
• 风险欺骗与谋划
• 组件监控器

Hessian Null Space Continuation：在单个神经网络解附近发现大量表征多样性

提出 HNC，在单个解附近遍历保函数权重并比较内部表示

arXiv

2609.38081

发表

9月30日

层

模型层

场景

模型与 API

测试

64-unit tanh RNN、ViT-S/16、RNN policy (Plume Tracking) 等 5 个

• 风险奖励作弊