跳到正文
原文

MedGuardBench:面向患者的个性化护栏开发基准

MedGuardBench: A Patient-Oriented Benchmark for Personalized Guardrail Development

arXiv:其他 AI 安全论文· arXiv:2611.22069· Sara Khosravi, Xiaofei Wen, Majid Sarrafzadeh, Muhao Chen·本站收录· 2 天前· 原文发表日期未标评测· 扫描记录里的位置 →
AI 导读

研究者提出以患者档案为条件的用药安全护栏任务,根据患者档案与处方预测安全判定和 17 类风险,并发布 MedGuardBench 基准。基准药物不重叠,含 5,001 个场景、覆盖 87 种药物;作者发现标准护栏依赖措辞、档案是否存在等表面线索而非患者事实。为此构建包含个性化推理蒸馏、Context Unrolling(CU)与基于规则奖励(guided GRPO)的个性化推理护栏。CU 在多数骨干模型上降低误报,对照显示直接提供检查结果无同样收益;guided GRPO 在部分骨干上提升不安全召回与过敏、不良反应等复杂风险检测,但在另一些骨干上增加误报。模型准确率超过基线模型与匹配的无档案对照,档案移除与交换实验确认收益来自患者信息而非仅微调。

阅读原文arxiv.org