可解释性工具可跨模型迁移
先了解这件事
休斯顿大学研究者发现，在一个模型上得到的拒答方向、正确性方向和情感探针等可解释性工具，可通过仅用无标签提示词拟合的线性映射迁移到其他模型。实验覆盖五个家族的 11 个指令微调模型（1B 到 72B 参数）的全部 110 个有序对，以及基座与指令微调模型之间。用普通问题拟合的映射恢复目标模型自身拒答转向效果的 54%、正确性增益的 16% 到 77%；加入工具作用区域的无标签提示词后提升到 102% 和 88% 到 98%，拒答迁移每类只需 16 条提示词，对照方向最多恢复 1%。论文证明当两个模型在映射数据覆盖的区域线性对应时迁移必然成立，据此提出的无标签覆盖度分数在超过 16,000 次运行中追踪恢复率，并解释了此前跨域映射失败的报告；迁移需要对目标模型激活的白盒访问。
AI 根据报道生成 · 5 天前更新
走势与进展
每小时关注度
现在 40，24 小时 0%·峰值 43（11月10日 22:00）
相关研究
这件事的论文
- 可解释性并非模型专属
arXiv · 2026-11-09 · 深度解读
后续时间线
- arXiv：越狱、提示注入、投毒与防御精选可解释性并非模型专属
休斯顿大学研究者发现，在一个模型上得到的拒答方向、正确性方向和情感探针等可解释性工具，可通过仅用无标签提示词拟合的线性映射迁移到其他模型。实验覆盖五个家族的 11 个指令微调模型（1B 到 72B 参数）的全部 110 个有序对，以及基座与指令微调模型之间。用普通问题拟合的映射恢复目标模型自身拒答转向效果的 54%、正确性增益的 16% 到 77%；加入工具作用区域的无标签提示词后提升到 102% 和 88% 到 98%，拒答迁移每类只需 16 条提示词，对照方向最多恢复 1%。论文证明当两个模型在映射数据覆盖的区域线性对应时迁移必然成立，据此提出的无标签覆盖度分数在超过 16,000 次运行中追踪恢复率，并解释了此前跨域映射失败的报告；迁移需要对目标模型激活的白盒访问。
相关讨论
关注度走势
每天新增来源
- 11月10日新增1个来源（1家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）
- 11月14日新增0个来源（0家媒体、0个账号）
- 11月15日新增0个来源（0家媒体、0个账号）