AlignMerge：通过 Fisher 引导的几何约束实现保持对齐的大语言模型合并
AlignMerge - Alignment-Preserving Large Language Model Merging via Fisher-Guided Geometric Constraints
AI 导读
研究者提出 AlignMerge，一个在合并大语言模型时把对齐作为显式不变量的几何感知框架，针对线性权重汤（weight soups）、任务向量和 Fisher 加权平均等标准方案可能在保持损失的同时悄悄破坏对齐的问题。该方法在指令微调基模型的局部 Fisher 图中用投影矩阵 P_A 估计对齐子空间，优化几何项、对齐方向惩罚与软对齐预算的组合目标，并以解码不变的对齐质量指数 AQI 这一潜空间准则作为对齐泛函。