GLEAN:面向高风险智能体验证的指南依据证据累积框架
Guideline-Grounded Evidence Accumulation for High-Stakes Agent Verification
AI 导读
GLEAN 是一个面向高风险智能体的验证框架,把专家制定的领域指南编译为轨迹感知、经校准的正确性信号,并用 Bayesian logistic regression 累积为正确概率。在 MIMIC-IV 三种疾病的智能体临床诊断任务上,其 AUROC 超过最佳基线 12%,Brier score 降低 50%;不确定度触发的主动验证会扩大指南覆盖并做差异化检查。临床医生专家研究认可其实际效用。