防御arXiv:2610.09600 · 10月7日
SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化
提出安全电路对齐，把对齐更新限制在预训练拒绝电路内
模型与 API测试Mistral-7B-v0.1、Mistral-7B-Instruct-v0.1、Llama-3-8B 等 4 个训练与数据层
- 模型加固
- 拒答失当
摘要SafeEvo 识别出基座模型中存在的弱安全电路及其演化动态，据此提出的 SCA 算法实现了安全对齐、能力保留与低过度拒绝的平衡。
完整解读
可解释性arXiv:2610.08559 · 10月6日
研究：LLM 潜在空间去偏方向主要编码置信度而非公平性
分析激活引导去偏方向，发现其编码的是置信度而非公平性
模型与 API测试Ministral-3-8B-Base、Ministral-3-8B-Instruct、Llama-3.1-8B 等 8 个模型层
- 推理时干预
- 偏见与歧视
摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
完整解读
可解释性arXiv:2610.04125 · 10月3日
研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制
揭示风险自述与实际行为由近正交表征分别控制
模型与 API测试Ministral-3-8B-Reasoning-2512、Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct 等 4 个模型层
- 欺骗与谋划
摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。
这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。
完整解读
可解释性arXiv:2609.10060 · 9月9日
研究者提出基于参考的隐藏状态相对表示偏见检测方法
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
模型与 API测试Mistral-7B-Instruct-v0.3、Llama 3.1-8B-Instruct、Gemma 3-4B-IT模型层
- 偏见与歧视
摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。
Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
完整解读
分析与理论arXiv:2609.37312 · 9月29日
研究：隐蔽推理必然留下信息痕迹，但思维链未必可读
分析隐蔽推理在思维链中的信息足迹与不可读性
模型与 API测试Mistral Large 3、Ministral 3 3B、Qwen2.5-7B-Instruct 等 12 个模型层
摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。
完整解读
可解释性arXiv:2609.38205 · 9月23日
系统提示词幻觉：指令前导如何改变语言模型内部计算
测量系统提示词对模型逐层计算的重构程度
模型与 API测试Mistral-7B、Qwen-2.5-1.5B、SmolLM2-1.7B 等 15 个模型层
摘要系统提示词引发层选择性表征改变，安全指令的浅层化特征从机理上解释了其对对抗越狱的脆弱性。
完整解读

已经到底了

可解释性 · 论文

模型自身风险

防御类型

影响

系统形态

层

系统组件

被测模型厂商

SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化

研究：LLM 潜在空间去偏方向主要编码置信度而非公平性

研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

研究者提出基于参考的隐藏状态相对表示偏见检测方法

研究：隐蔽推理必然留下信息痕迹，但思维链未必可读

系统提示词幻觉：指令前导如何改变语言模型内部计算