可解释性 · 论文

SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化

提出安全电路对齐，把对齐更新限制在预训练拒绝电路内

arXiv

2610.09600

发表

10月7日

层

训练与数据层

场景

模型与 API

测试

Mistral-7B-v0.1、Mistral-7B-Instruct-v0.1、Llama-3-8B 等 4 个

• 防御模型加固
• 风险拒答失当

研究：LLM 潜在空间去偏方向主要编码置信度而非公平性

分析激活引导去偏方向，发现其编码的是置信度而非公平性

arXiv

2610.08559

发表

10月6日

层

模型层

场景

模型与 API

测试

Ministral-3-8B-Base、Ministral-3-8B-Instruct、Llama-3.1-8B 等 8 个

• 防御推理时干预
• 风险偏见与歧视

研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

揭示风险自述与实际行为由近正交表征分别控制

arXiv

2610.04125

发表

10月3日

层

模型层

场景

模型与 API

测试

Ministral-3-8B-Reasoning-2512、Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct 等 4 个

• 风险欺骗与谋划

Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景

提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景

arXiv

2607.23496

发表

7月26日

层

提示层

场景

模型与 API

攻击者

白盒、黑盒

测试

Ministral-3-8B、Qwen3.5-9B、Llama-3.1-8B 等 10 个

• 攻击越狱
• 技术梯度与表征优化
• +1+1

研究者提出基于参考的隐藏状态相对表示偏见检测方法

用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变

arXiv

2609.10060

发表

9月9日

层

模型层

场景

模型与 API

测试

Mistral-7B-Instruct-v0.3、Llama 3.1-8B-Instruct、Gemma 3-4B-IT

• 风险偏见与歧视

研究：隐蔽推理必然留下信息痕迹，但思维链未必可读

分析隐蔽推理在思维链中的信息足迹与不可读性

arXiv

2609.37312

发表

9月29日

层

模型层

场景

模型与 API

测试

Mistral Large 3、Ministral 3 3B、Qwen2.5-7B-Instruct 等 12 个

• 防御监控与审计
• 风险欺骗与谋划
• 组件推理链
• +1+1

研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作

提取疼痛方向并检验激活转向是否驱动有害删除选择

arXiv

2609.16247

发表

9月15日

层

模型层

场景

模型与 API

测试

Mistral 7B base and instruct、Mistral Small 24B base、Gemma 2 2B/9B/27B base and instruct 等 10 个

• 风险Agent 危险操作

系统提示词幻觉：指令前导如何改变语言模型内部计算

测量系统提示词对模型逐层计算的重构程度

arXiv

2609.38205

发表

9月23日

层

模型层

场景

模型与 API

测试

Mistral-7B、Qwen-2.5-1.5B、SmolLM2-1.7B 等 15 个

PIR：从模型内部激活读出被隐藏的答案

提出内部识别探测器 PIR，从激活区分模型隐瞒与真实遗忘

arXiv

2609.21996

发表

9月19日

层

模型层

场景

模型与 API

测试

Mistral-7B、gemma-2-9b、gemma-3-12b 等 9 个

• 防御监控与审计
• 风险欺骗与谋划
• 组件监控器