跳到正文
原文
arXiv:越狱、提示注入、投毒与防御· arXiv:2610.37561· Walter Endrizzi, Flavio Ragni, Raffaele Marchesi, Stefano Bovo, Monica Moroni, Giuseppe Jurman, Venet Osmani·本站收录· 原文发表

当不确定性量化失效时:临床类别失衡下选择性预测的结构性漏洞与修正

When uncertainty quantification fails: structural vulnerabilities and corrections for selective prediction under clinical class imbalance

AI 导读

研究显示,在类别严重失衡的临床预测任务中,标准不确定性度量不再反映临床模糊性,而退化为类别归属的代理,使依赖不确定性分数将模糊病例转交人类专家的选择性预测系统性惩罚少数类患者,制造出安全错觉。在覆盖从严重失衡到接近平衡的 56 个合成条件和多发性硬化、帕金森病、阿尔茨海默病三个神经退行性疾病队列上,作者提出的框架保持了有界且平衡的风险,而全局指标要么让少数类敏感度崩溃,要么以牺牲多数类患者为代价保护少数类。CCR 配标准熵在 tau=0.5 时会破坏类内单调性、无法保护少数类,CCR 结合阈值感知度量则恢复严格单调性,正确识别模糊患者并安全缓解少数类排除。作者称该偏差是可修正的结构性缺陷,建议在类别失衡下部署选择性预测的临床管线采用阈值对齐的不确定性度量和类别分层评估。

阅读原文arxiv.org