MENTIS：对齐改变了什么信念？测量语言模型中的多尺度潜在扭转
MENTIS: What Belief Changes Under Alignment? Measuring Multi-Scale Latent Torsion in Language Models
AI 导读
研究者提出 MENTIS 框架，用几何指标测量偏好对齐在大语言模型内部计算中引起的重组。该框架在成对的指令微调（IT）与偏好对齐（PA）检查点之间进行比较，结合基于逐层协方差的扭转范数 T1、谱扭转诊断 T2，以及用于深度定位的 ERA（Energy-Radiance-Activation）度量。在 LITMUS 上对四个 7-8B 模型对的实验显示，对齐引起的变化是选择性的而非均匀的：规范概念的平均扭转变化大于事实概念，扭转与上下文熵负相关，峰值效应集中在随架构而异的中后层，且同一模式在词级、提示级和模型级分析中一致出现。作者称这些结果表明偏好对齐在内部计算中留下结构化、深度定位的几何特征，超出仅靠行为层面评估所能揭示的范围。