思维链监控 · 论文

从概念对齐到因果接地：思维链忠实性的干预检验

用共享 SAE 检验 CoT 与直接预测的概念对齐和因果接地

arXiv

2609.23065

发表

9月19日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B、Gemma-2-2B、Gemma-2-9B 等 5 个

• 组件推理链

TAME：用 SAE 抑制激活缓解 VLM 思维链混淆

提出 TAME，在强化学习中抑制模板激活以缓解思维链混淆

arXiv

2609.24243

发表

9月21日

层

训练与数据层

场景

模型与 API

测试

Qwen3-VL-8B、Gemma-3-12B-it、GPT-4o 等 7 个

• 防御模型加固
• 组件推理链
• +1+1

研究用稀疏 crosscoder 揭示 on-policy distillation 只重加权既有特征

提出 swap readout 分析蒸馏对学生特征的重加权

arXiv

2609.35210

发表

9月28日

层

模型层

场景

模型与 API

测试

DeepSeek-R1-Distill-Qwen-1.5B、JustRL-DeepSeek-1.5B、Skywork-OR1-Math-7B 等 6 个

研究：自然语言自动编码器中哪些 token 最值得审计

比较用于审计提示注入与隐瞒的 token 位置选择信号

arXiv

2609.37040

发表

9月29日

层

模型层

场景

模型与 API

测试

Qwen2.5-7B、Gemma-3-12B、Gemma-3-27B 等 4 个

• 攻击提示注入
• 风险欺骗与谋划