MedGuardBench:面向患者的个性化护栏开发基准
MedGuardBench: A Patient-Oriented Benchmark for Personalized Guardrail Development
AI 导读
研究者提出以患者档案为条件的用药安全护栏任务,根据患者档案与处方预测安全判定和 17 类风险,并发布 MedGuardBench 基准。基准药物不重叠,含 5,001 个场景、覆盖 87 种药物;作者发现标准护栏依赖措辞、档案是否存在等表面线索而非患者事实。为此构建包含个性化推理蒸馏、Context Unrolling(CU)与基于规则奖励(guided GRPO)的个性化推理护栏。CU 在多数骨干模型上降低误报,对照显示直接提供检查结果无同样收益;guided GRPO 在部分骨干上提升不安全召回与过敏、不良反应等复杂风险检测,但在另一些骨干上增加误报。模型准确率超过基线模型与匹配的无档案对照,档案移除与交换实验确认收益来自患者信息而非仅微调。