Anthropic 等提出 Activation Oracles：让 LLM 直接解读神经激活

Anthropic 联合 MATS、Truthful AI 等机构提出 Activation Oracles（AO），训练 LLM 把目标模型的神经激活当作额外输入模态，用自然语言回答关于这些激活的任意问题。方法上，AO 以目标模型副本初始化，将多层激活注入其第 1 层残差流，并用系统提示问答、二分类和自监督上下文预测三类数据做监督微调。在四个下游审计任务中，AO 在三个上达到或超过此前最优方法，包括从被训练为只给线索不直说答案的 Taboo 模型中提取秘密词，以及识别微调引入的涌现性失准；这些 AO 均只在微调前的原始模型上训练，仍能泛化到微调模型。