表征对齐：为认知科学、神经科学与机器学习研究提出统一框架

如何衡量不同信息处理系统的内部表征有多相似，这种相似是否会变成相似行为，以及如何修改一个系统的表征去更接近另一个系统。

• 场景：认知科学、神经科学与机器学习都研究人、动物和人工系统形成的表征。作者称，刺激经验、训练任务与目标、架构差异都会影响表征；表征对齐指两个或更多系统的内部表征一致到什么程度。
• 重要性：作者称，测量对齐可以在信息处理层面比较表面不同的系统，用来把一个系统当作另一个的模型，或找出差异。桥接后可以汇集表征；提升对齐可以让一个系统的处理更像另一个，或服务于下游表现。作者还把可解释性、价值对齐和人–机器人任务表征算进机器学习中的相关用途。
• 现有不足：作者认为领域间知识转移有限，工作被重复，创新也不易共享。作者称 RSA 已被广泛用来比较两个系统，但没有覆盖表征对齐的全部工作，各学科用法也不一致。
• 观察：作者认为这类研究大体共享五个可控组件，并落在三个目标上：测量对齐、把表征放进共享空间（桥接）、提升对齐。Figure 1 按这三个目标各举认知科学、神经科学与机器学习的例子。
• 作者提出的东西：一篇 Perspective。作者给出一套统一框架当共同语言，把已有研究映射进该框架（第4节、Table 2），并在第5节列出对三个领域都有关的开放问题。作者希望由此促成跨学科合作。

作者在第2节按学科回顾，并认为这些工作常收敛到相近技术，但视角不同。论文没有自己的实验，因此没有单列的基线或基准。

认知科学

• 相似性与 MDS：Shepard [1962, 1980] 的多维标度用相似性判断把刺激嵌到低维空间，距离与相似性成反比。Shepard and Chipman [1970] 的二阶同构比较同一组对象上两套关系的相关。
• 概念系统：Goldstone and Rogosky [2002] 在空间位置表示的概念系统之间寻找对齐，且不要求事先标明对应概念。作者还写到 Roads and Love [2020] 与 Aho et al. [2023]：自然环境支持日常概念对齐，儿童早期概念似乎利用这些规律。
• 人、文化与语义：Peterson et al. [2018] 比较人与卷积网络的图像表征。作者写道，提升模型行为不保证对齐提升，表现更好的物体识别模型常常与人类判断更不对齐。Thompson et al. [2020] 比较 41 种语言中 1,010 个意义的语义邻域；作者转述，数与亲属等内部结构高的域更对齐，自然类与常见动作则没那么对齐。

神经科学

• RSA：Kriegeskorte et al. [2008a] 把神经反应、模型激活或行为转成 RDM 再作比较。Kriegeskorte et al. [2008b] 用它比较猕猴电生理与人类 fMRI 的 IT。Cichy et al. [2014] 在时间与空间上对齐 MEG、电生理与 fMRI。
• 个体间公共空间：超对齐用 Procrustes 变换把个体 fMRI 映到公共空间；共享反应模型用概率框架分开个体特异与共享成分。对齐后，二次模型可以零样本做物体分类、眼动预测或图像重建。
• 脑–模型：Yamins et al. [2014] 报告猕猴中晚期视觉区与图像分类网络中晚期层的层级对齐。语言方面，作者写道一些研究把 next-word prediction 当作语言模型与脑对齐的关键机制，同时写道仍不清楚它是必要的，还是仅仅充分。

机器学习

• 模型到模型：知识蒸馏（Hinton et al., 2015）让学生匹配教师的概率输出、表征几何或成对相似性。作者称，若不专门鼓励多样性，不同深度学习模型往往高度对齐。CKA（Kornblith et al., 2019）被作者称为测量网络表征相似的一种简单且常用的方法。
• 跨模态与人类几何：CLIP 用对比学习对齐视觉与文本嵌入。作者把 Moayeri et al. [2023] 的跨模型对齐描述为线性回归，并称这与神经科学里学习线性映射的做法相同。Muttenthaler et al. [2023b]、Fu et al. [2023]、Fel et al. [2022] 改造视觉网络表征，以贴近人类的 odd-one-out、局部相似性或视觉策略。
• 可解释性：作者把不少可解释性工作看成把网络表征桥接到研究者能理解的更低维或更简单空间，包括词向量上的线性类比、人类指定概念，以及寻找与语义定性对齐的电路。

行为、价值与机器人

• 行为对齐：作者称，输出由表征再加映射产生，故行为对齐可看成表征对齐的一种情形，但二者不是一一对应。映射固定时，完美的行为对齐是完美表征对齐的必要条件，反向不成立。
• 价值对齐：作者讨论 RLHF 与 constitutional AI，并写道经由这些方法达到价值对齐可能很难或不可能。Zou et al. [2023] 的 representation engineering 被转述为：找到与受重视行为相关的表征方向再加以操纵。作者提出，把模型表征结构与人类对齐，或可为价值对齐及下游任务带来好处，至少可作为更有针对性干预的预处理。
• 人–机器人：Bobu et al. [2023] 讨论机器人需要用户在乎的任务方面。作者对比显式任务结构与端到端映射：前者只在归纳偏置正确时有用；后者更快，但表征里可能含无关信息并抓住虚假相关。作者写道，与其把人只当静态数据源，这些方法或可把人当作弱监督。

作者的定位是：三学科都在做测量、桥接与提升，但缺少能覆盖全部工作的共同语言；框架用来把这些流脉放进同一套表述。

作者把多数表征对齐研究写成五个可控组件，并用对齐函数得到一个标量；目标分成测量、桥接和提升。

五组件

• 数据：D 是 n 个试次，元素可以是图像、三元组、字符串、序列或视频。作者把文中案例主要写成静态样本；若系统与环境互动，数据改为环境状态，简化处理中环境被当作平稳，任务上下文算进刺激。
• 系统：A、B 由 f_θ、g_ϕ 把刺激映到内部状态。实验者能选刺激及呈现方式，界面的其余部分算系统的一部分，并被吸收进参数。系统也可以产生输出。
• 测量：μ_α、ν_β 把各试次的内部状态收成 X、Y。α、β 常是测量超参数，例如取哪一层，或 fMRI 的扫描与预处理。若直接使用全部内部状态，二者取恒等映射。
• 嵌入与分数：可选的 φ_ψ、χ_ω 把测量映到能算相似性的空间，可以是恒等、PCA/SVD，或带可学习参数的线性或非线性映射。没有嵌入步时也取恒等。对齐函数 δ 再打成标量。作者把该标量写成不相似性 δ(v,w)=Δ_v,w，取 0 时两个嵌入向量相同，因而完全对齐。测量可以是向量，也可以是矩阵、图、程序或字符串，只要两侧都有合适的对齐度量。

三个目标

• 测量：通常两个系统都静态，刺激成对。分数本身是因变量，用来确认一个系统能否作为另一个的模型，或定位差异。
• 桥接：系统通常仍静态，数据可以成对或不成对。至少一方被投影到新空间，以便汇集表征，或做比单一个分数更有指向的比较。作者注明，RSA 等测量也可看成隐式桥接到由距离定义的核式表示。
• 提升：至少一个系统是动态的，能学习或更新表征；数据可以成对或不成对。分数用作反馈，用来改嵌入函数，或改内部表征及其测量。

对齐函数的性质

• 必须满足：可测；输出标量；该标量量化相似或不相似。作者不要求它是度量，因为对称不是必要条件。为了能当损失，作者默认用不相似性，值域从 0 到无穷。相似函数与不相似函数原则上可互化，但各有利弊。
• 相似或不相似：Pearson、Spearman、余弦以及中心化或归一化内积映到 [-1, 1]，作者认为上下界便于解释关系。交叉熵、相对熵和嵌入差的 ℓp 范数更适合最小化。对比学习里也可以用不相似损失去最大化余弦相似度。
• 描述或可微，对称或有向：只为测量时，作者建议优先用对称函数，例如 RDM 的 Kendall τ_a、ρ_a，或既可描述又可微的 Pearson RDM 相关。有向函数相对于其中一个空间定义，离散 KL 与交叉熵是例子；作者认为它们难解释，但适合当误差。一个函数不能同时对称又有向。Table 1 给 CKA、若干 RDM 函数、互信息、ℓ2、KL、交叉熵贴了这些标签。
• 不同函数支持不同推断：作者不主张只用某一个函数。概念上，若一个系统把信号 A、B 分别放在 99% 与 1% 的单元里，另一系统相反，回归会把二者看成相同，RSA 会把二者看成很不相似。作者建议在可能时用多种度量，并看结论是否还成立。

提升时的两种优化

• 表征变换：冻结原模型，另学一个加在表征上的变换 h_Ω。灵活性从恒等、线性，到带 Lipschitz 或权值界等约束的非线性。作者把这一步写成最小化 argmin_Ωℒ_alignment(h_Ω(V),W)。这里不需要源参数 θ 或 ϕ。把网络表征线性映到单神经元反应，是这类例子。
• 表征微调：对整个模型求导并更新参数，例如学生–教师设置，或非线性系统辨识。必须固定另一方参数，且要更新的参数必须拿得到。作者认为，测完人或猴之后再去改其突触，实践中不太可能，所以这一步主要针对人工智能系统。
• 留出与约束：作者称，高维空间里很可能存在非线性映射把一个空间映到另一个，因此要在目标系统的留出测量上检验泛化。还须少样本微调，或满足 sup ||θ−θ*||_2 < ε。论文未给统一的 n 或 ε，并称多小取决于任务与问题。

第4节如何使用该框架

• 演示而非新算法：作者把 Figure 1 的九项已发表研究写成同一套组件，用来显示测量、桥接、提升都能放进该语言。测量侧包括节奏核密度的 JSD、IT 的 RDM 与 Spearman、以及 CKA。桥接侧包括 SPoSE、PLS 加眼动的 NSS、图像–词对齐。提升侧包括对人类 odd-one-out 的变换、用 MSE 预测 fMRI，以及与学生一起训练的 critic。
• CKA 的名字不够：作者写道，要无歧义地指定 CKA，还得说明 HSIC 用哪一个估计器。Gretton、Song、Lange 三种估计被作者称为不只是实现细节，其选择会影响最终分数。另有 arccosine、1−CKA 与 top-k 局部 CKA 等变体。论文未在此处给出对照分数。
• 标准化工具：论文写道，Cloos et al. [2024a] 已建立并在继续开发一个 Python 包，用统一命名收集已有相似度实现，以便跨研究比较。

实验设置

• 研究形态：Perspective。作者未报告新采集的数据、新训练的模型、评审模型、阈值或重复次数。
• 九个重写案例：第4节对应 Figure 1 的九个面板，各写清数据、系统 A/B、测量、嵌入与对齐函数。三列是认知科学、神经科学、机器学习；三行是测量、桥接、提升。
• 案例中的系统：人类被试组、猕猴电生理、人类 fMRI、CNN 或语言模型的层激活、图像–文本网络、预测脑反应的 CNN、教师–学生网络。这些是被重写的已有研究，不是作者新跑的设置。
• 文献归类：Table 1 给对齐函数贴性质标签。Table 2 按试次类型、系统 A/B、目标（measuring、bridging、increasing）与 δ 归类已有论文，并收录 Re-Align workshop 接收的研究。作者称 Table 2 用来展示跨学科广度，不是完整综述。
• 案例里的 δ：包括 JSD、Spearman 秩相关、CKA、三元组选择的对数似然、Pearson 相关、NSS、MSE、对象与属性损失，以及 L_critic。论文未给出统一阈值。
• 评审：论文未报告作者自己的评审模型或人工一致性。

主结果

论文没有作者自己的主结果表，这里不把被引研究的分数编成新表。

• 作者转述的关系：提升模型行为不保证表征对齐提升；表现更好的物体识别模型常常与人类判断更不对齐。多数被测视觉模型开箱时与人类对齐较低，学到人类相似性空间的线性变换可以缩小该缺口。论文在这两处都没有写出缺口的百分点。
• U 形：Sucholutsky and Griffiths [2023] 被转述为，教师与学生的表征对齐程度和少样本迁移表现呈 U 形；高度对齐与高度不对齐的模型，都能比中等对齐的模型用更少数据泛化。论文未给出该曲线的端点数值。
• 第4节的角色：作者用这些案例说明框架能写下已有研究，没有在同一设置上重新比较各 δ，也没有新的胜负结论。

重写时写明的规模

这些数字是被形式化研究的设置，不是本文新实验的结果。

• Hebart et al. [2020]：1.46 million 条人类三元组 odd-one-out 判断；m=1854 个物体类别；49 个可解释维（第4.1.2节）。
• 节奏先验：序列再生产通常在 K=5 次迭代后停止（第4.1.1节）。跨文化重复为 39 个被试组、15 个国家。Figure 1 文字标有 Tsimané participants (N=15) 与 US participants (N=23)。
• IT 比较的图注：人类侧为 4 名被试、每名两个 session 平均后的 316 个双侧 IT 体素；猴侧为两只猴的 674 个 IT 单细胞。不相似性写成 1−r（Figure 1 图注）。

其他消融与分析

• 论文未报告作者自己的消融或参数扫描。
• 第3.3.5节比较 CKA 的三种 HSIC 估计，并提到 arccosine CKA、1−CKA 与 top-k 局部 CKA；作者称估计器选择会影响最终相似度，本文未给出对照分数。
• 第5.3节用信号在单元中的 99% 与 1% 分配说明回归与 RSA 会给出不同判断；这是概念例子，不是实验。
• 论文未报告统计显著性检验。Tian et al. [2019] 形式化中的非匹配对相对频率 N 未给数值。

作者指出的局限与后续方向

• 数据与刺激（§5.1）：作者称，计算对齐所用的数据集若过窄，结果可能不泛化；自然数据里的特征混淆会高估依赖不同特征的模型之间的对齐，而过于简单的受控刺激上的推断也可能无效。作者把“有争议刺激”，以及用对齐去设计驱动或抑制特定反应的刺激，写成测量与选数据可以互相加强的方向。
• 取出表征（§5.2、§5.2.1）：呈现时长、顺序、分析哪一层或哪个脑区，都会改变结果。作者称 fMRI、EEG 等间接测量可能相对系统实际可用的信息扭曲或增强特征。黑盒引出被列为问题；作者认为相似性判断、MCMC 与序列再生产或有助于机器学习可解释性，以及更符合人类偏好的生成模型。这是后续可能，不是已完成的结果。
• 表征与计算（§5.2.2）：作者称，能量需求、训练前已有特征等实现因素会塑造表征，从而使相似度被低估或高估。生物神经表征随重复、注意、情境与时间变化，而 RSA 常把一个表征当作该刺激的典型表征。作者采取实用主义读法，并认为更分析内部反应在行为互动中的动态角色，可能带来更多认识或更强的对齐能力。
• 度量（§5.3）：作者称，不同度量会得出不同结论。一个跨度量的难点是，较小的表征差通常被假设为不如较大的差重要，但方差大小不一定等于对计算的重要性。作者称，若不知道各方面对每个系统有多重要，对齐度量将无法完全抓住底层计算相似性。
• 与行为的关系（§5.4）：作者称，输出可以在表征不同时仍然对齐，早期表征相似的系统也可以在后期发散并给出不同输出。表征对齐不是输出对齐的前提，也不能保证输出对齐。作者仍认为二者耦合紧，表征对齐可作为直接改进输出对齐的补充。
• 风险（§5.5、§6）：作者指出，表征更对齐可能使人更难发现输出来自模型而非人；对齐到哪些生物系统、哪些人，以及由此的下游偏差，都需要考虑。作者鼓励进一步刻画可能的风险并发展防范框架。§6 希望增加跨领域共享，并让这些开放问题更被看见。

实验覆盖范围

• 全文未报告作者新跑的模型、新数据集、查询次数或重复次数；第4节是对 Figure 1 九项已发表研究的重写。
• 这九项分别对应测量、桥接、提升，以及认知科学、神经科学、机器学习；每项指定一种 δ，包括 JSD、Spearman、CKA、SPoSE 的对数似然、Pearson、NSS、MSE、对象/属性损失和 L_critic。
• Table 1 只给对齐函数的性质标签，没有同一数据上的分数。
• Table 2 的列是试次类型、系统 A/B、目标与 δ；作者写明它不是完整综述，并收录 Re-Align workshop 的接收论文。
• 第5节讨论刺激选择、黑盒引出、多种相似度、表征与行为的关系以及风险，未报告针对这些开放问题的新定量检验。论文未报告统计显著性检验。

这是一篇把认知科学、神经科学和机器学习里的表征对齐放到同一套语言里的 Perspective。

• 要处理的问题：系统内部表征如何比较、相似会不会带到行为、以及怎样改一方的表征去贴近另一方。作者称，缺少共享定义会使同一想法以不同名字被重新发现，相似错误也会重复。
• 框架：可控的是数据、两个系统及其界面、对内部状态的测量、可选嵌入，以及把两套嵌入打成标量的对齐函数。作者采用不相似性约定，分数为 0 表示嵌入相同。
• 三类用法：测量时系统多半静态、刺激成对，分数就是比较结果。桥接时至少把一方投影到共享空间，数据可以不成对。提升时至少一方会更新；可以冻结参数后另学变换，或在参数可得时微调，并在留出测量上检查泛化。
• 从文献里转述的关系：开箱使用的视觉模型常与人类对齐较低，线性变换可以缩小缺口；物体识别表现更好并不保证更对齐；少样本迁移上，对齐程度与表现被描述成 U 形。本文没有给出这些关系的新数字，也没有自己的主结果表。
• 作者的结论：不同对齐函数对哪些差异敏感并不相同，所以可能时应用多种函数看结论是否还在。表征对齐既不是行为对齐的前提，也不能保证行为对齐，但作者认为它可以作为直接改输出的补充。第5节还提醒：对齐到哪些人，以及输出更像人之后是否更难被认出，都需要单独考虑。作者希望以此加快跨学科合作。