医学 AI 编码“错误感”：用内部概念验证癌症分割

癌症分割模型会静默失败，生成看似合理却错误的掩膜。研究用稀疏自编码器（Sparse Autoencoders）将模型内部激活分解为可解释概念，发现失败案例的潜在特征为活跃概念更少、激活幅度更低，据此训练分类器实现失败检测并给出错误解释。在前列腺癌、胰腺癌和脑癌分割实验中，该方法在保持分割质量的同时，失败检测表现优于基于输出的方法。