机制可解释性的开放问题

一篇前瞻性综述讨论了机制可解释性的当前前沿，并梳理该领域可优先关注的开放问题。作者指出，机制可解释性旨在理解神经网络能力背后的计算机制，以提升对 AI 系统行为的保障，并回答关于智能本质的科学问题。综述认为，现有方法需要在概念和实践两方面继续改进才能揭示更深入的洞见，还需明确如何将方法用于具体目标，同时应对既影响该领域、也受其影响的社会技术挑战。