BIDMC 与 Google 开展首个真实世界研究，评估面向患者的医疗 AI 安全性
BIDMC Researchers Conduct First Real-World Study of Safety and Quality of Patient-Facing AI in Primary Care
AI 导读
BIDMC 与 Google 研究人员在《The Lancet》发表研究，评估医疗 AI 聊天机器人 AMIE 在初级诊疗中的真实世界安全性。2025 年 4 月至 11 月间，114 名患者在预约 BIDMC 医生后从家中通过安全文本界面使用 AMIE，其中 98 人完成 AI 交互与就诊。每段对话由一名内科专科医生实时监控，可在患者面临伤害风险、出现明显情绪困扰或提出结束会话时介入；98 次完成对话均未触发安全停止，监督医生发现 1 例幻觉，并在 5 例中补充了临床说明。患者在倾听、解释信息和让人放松方面给出较高评价，但对信息保密性和聊天机器人诚实可信度仍有顾虑。44 例中医生在就诊前查看了 AI 生成的记录或摘要，其中 75% 认为有助于准备就诊，57% 表示可能影响了临床思路；仅 1 例被报告为有一定伤害，原因是 AMIE 将淋巴瘤列入可能诊断，医生担心患者因此焦虑。