可解释性 · 论文

SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化

提出安全电路对齐，把对齐更新限制在预训练拒绝电路内

• 模型加固
• 拒答失当

研究者提出可认证机制编辑：在连续输入区域上证明技能移除与保留

提出机理编辑认证框架，在连续输入区域上证明技能移除与保留

• 模型加固

用内部表征监控与发现 LLM 评测中的奖励作弊

提出 DoM 激活探针，监控并发现评测中的奖励作弊

• 监控与审计
• 奖励作弊
• 监控器

GAPS：面向条件激活引导的维度级门控

GAPS 在 token 级条件 steering 上增加按神经元的可分性门与后验门。

EraseSAE：用稀疏自编码器在文生视频扩散模型中实现精准概念擦除

AI 导读EraseSAE 通过稀疏自编码器在 DiT 架构的文生视频扩散模型中实现精准概念擦除，先以 Partitioned Convolutional Sparse Autoencoder 将稠密时空激活分解为可解释稀疏特征，再用对比归因机制定位概念专属特征核，推理时按时间步生成时空掩码限制擦除范围。

Spillover-Aware Multi-Value Steering：面向多元对齐的 LLM 激活引导去纠缠方法

AI 导读针对多元对齐中同时引导多个价值维度时出现的溢出效应，研究者提出 Spillover-Aware Multi-Value Steering 方法，将溢出归因于引导方向的几何纠缠（由 Gram 矩阵刻画），并从激活范数惩罚目标推导出零成本校正以精确解耦各方向贡献。

GeoSteer：面向大语言模型激活引导的测地线优化方法

GeoSteer 把保范数激活引导做成球面上的多步测地线优化，在四个开源模型的真实性、有用性与去毒任务上主指标优于所列激活引导基线。

超越求解器判定：面向自动形式化的生成式奖励模型

AI 导读研究提出 Verdict-Preserving-Unfaithfulness（VPU）失效模式：错误的形式化翻译仍能通过求解器并得到预期判定，并证明仅依据判定的结构性验证启发式检测能力在数学上被限制在随机水平。

ARIA：用稀疏自编码器实现测试时机器遗忘

ARIA 在冻结权重上用 SAE 线性检测器做推理时遗忘门控。

局部稀疏性实现无监督 LLM 安全检测

AI 导读论文提出基于局部掩码 SAE 的无监督异常检测框架，用于大语言模型的部署期安全检测。

研究揭示 LLM 涌现失准的机制并提出参数空间缓解框架

对四个开源指令模型族做窄域微调，用方向 Hessian 与 Grassmann 子空间诊断涌现失准，并把有害梯度子空间从 LoRA 更新中正交投影出去。

用探针引导微调对齐模型且不损失可监控性

作者用持续更新的探针做微调，在保留线性可监测性的同时降低有害性并提高诚实性。

REINS：用 SAE 特征同时抑制有害续写并增强拒答的引导方法

REINS 在同一 SAE 空间抑制有害延续并增强拒答。

PIR：从模型内部激活读出被隐藏的答案

提出内部识别探测器 PIR，从激活区分模型隐瞒与真实遗忘

• 监控与审计
• 欺骗与谋划
• 监控器

为何扩散语言模型的越狱会成功：能量景观分析

作者把 dLLM 安全对齐解释为去噪能量势垒，并用 R0、SED slope、ΔE slope 三个免训练信号检测越狱。已知攻击里躲开全部信号的配置也未生成有害内容。