Circuit-Diff:用事实编辑干预定位归因图中的知识
Circuit-Diff: Factual Edit-based Intervention Method for Localizing Knowledge in Attribution Graphs
AI 导读
作者提出 Circuit-Diff,通过对模型施加低秩事实编辑,把归因图中角色发生变化的特征视为与被编辑知识相关,从而免去手工解读 CLT 未标注节点的步骤。在被考察的编辑上,被标记的节点不只是目标 token 的检测器,还包含围绕新旧对象的历史、地理与关联特征。作者形式化了该方法,测量事实编辑后冻结 CLT 的可靠性,并在最多 24 个 CounterFact 编辑上通过节点修补做因果检验,另附一个案例研究。基于 circuit-tracer 包的开源实现与多提示词聚合、基于规则的超节点标注两个工具一并发布。