医疗 AI 产品评测的挑战

随着医疗场景中 AI 产品增多，如何评测其安全性与有效性仍缺乏成熟基准和统一监管框架。JAMA 2025 年 10 月的峰会报告指出，许多工具的健康影响未被量化，部分原因是评测困难或不在 FDA 监管范围内；约翰霍普金斯、乔治城与耶鲁的研究分析约 1000 款获 FDA 许可的 AI 医疗设备后发现，多数被召回设备未经过临床测试。NIST 下属 CAISI 在 2025 年 12 月的博客中称，许多 AI 评测未说明测量对象，更未验证测量是否有效；牛津互联网研究院发现 445 个 LLM 基准缺乏科学严谨性。微软研究对六款旗舰多模态模型的医疗基准测试显示，模型在移除图像等关键输入后仍常猜对答案。文章还列举了 EvalEval、AI Evaluator Forum、HAIP 等评测协作，以及韩国研究者开发的 PatientSafeBench，其测试的 11 个模型均未达到患者使用安全标准。