跳到正文
原文
Hugging Face Daily Papers· arXiv:2610.04749·本站收录· 原文发表

从蒸馏私有健康记录中智能体发现血液生物标志物

Agentic discovery of blood biomarker from distilled private health records

论文速读

其他

据论文 PDF 整理(AI 生成),以原文为准

用Clalit训练的GAT引导搜索,13病外部事后AUC相对起点中位高4.18个百分点。

问题
常规血常规的算术组合或可成为生物标志物,但评估所需的私有病历不能交给擅长发现的前沿语言模型智能体。缺的是在私有网络内学习、到网络外仍能给新表达式排序的工件。
方法
在Clalit边界内为13种免疫介导疾病各训练一个图注意力网络,用约200万棵合成CBC表达式树预测方向无关AUC,只发布权重。外部智能体按预测分提议、打分和改写,不读取患者行。
实验与结果
相对文献种子起点,13病事后AUC中位提高4.18个百分点。对三个前沿工具重排时,81次核实诊断比较中67.9%优于工具首条,中位+1.50个百分点;增益主要在MIMIC-IV,EHRShot上未观察到。
局限与可以继续做的
作者把未强制的深度上限和随机对照起点不一致标为局限,并把多机构集成、纵向轨迹、扩展检验词表和单一多疾病GAT列为后续。门诊再归因被写成开放步骤。论文写明未检验工具预训练是否见过外部队列。
实验设置Clalit Health Services、MIMIC-IV 等 · direction-agnostic AUC、AUC pp 等
基准
Clalit Health ServicesMIMIC-IVEHRShotNHANES
指标
direction-agnostic AUCAUC ppSpearmanMAENDCG@5000precision-at-K
AI 导读研究将 Clalit Health Services 逾 540 万患者记录蒸馏为已发布的评分工具:针对 13 种免疫介导疾病,在数据边界内训练图注意力网络预测候选 CBC 表达式的病例对照 AUC,仅发布训练权重。外部验证中,智能体发现的表达式较文献种子起点 AUC 中位数提升 4.18 个百分点,在三个独立队列中对三种前沿研究工具候选重排序多数优于其首选。

研究将 Clalit Health Services 逾 540 万患者记录蒸馏为已发布的评分工具:针对 13 种免疫介导疾病,在数据边界内训练图注意力网络预测候选 CBC 表达式的病例对照 AUC,仅发布训练权重。外部验证中,智能体发现的表达式较文献种子起点 AUC 中位数提升 4.18 个百分点,在三个独立队列中对三种前沿研究工具候选重排序多数优于其首选。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    私有病历不能交给发现智能体,论文将其蒸馏成可发布的CBC表达式打分器。

    私有电子健康记录不能交给擅长发现的前沿语言模型智能体,因而缺少能在机构边界外给新 CBC 表达式排序的工件。

    • 场景:作者称血常规使用广泛,NLR、红细胞分布宽度和平均血小板体积等算术摘要便宜、可解释、跨系统可得;手工枚举不可行,作者称有 26 万亿种组合。
    • 现有缺口:作者称联邦学习主要服务协同训练,而不是前沿模型对候选标志物的实时迭代评估。Gemini 3 Pro、GPT Deep Research 和 SciSpace BM Agent 能从公开文献提议,但往往不能部署到受保护环境里用患者数据训练。
    • 作者要补的工件:在私有网络内从患者级 EHR 学习,再到网络外给新的 CBC 表达式排序,且不再查询患者记录。信息量大的队列在机构防火墙或气隙网络之后。
    • 本文做法:把 Clalit Health Services 门诊面板蒸馏成 13 个疾病特异性图注意力打分器,只发布权重,供外部智能体做 propose–score–rank–refine。引言写面板为 5,437,870 人,Results 写约 5,500,000 人。
  2. 有哪些相关研究?

    论文用血常规比值、科研智能体和联邦学习定位缺口,基线是文献比值、工具首条和单特征。

    论文没有单独的 Related Work,相关讨论主要在引言;下面只保留论文点名并讨论过的工作。

    血常规比值

    • 已有算术摘要:Zahorec(2001)、Templeton 等(2014)和 Buonacera 等(2022)讨论中性粒细胞/淋巴细胞比;Felker 等(2007)讨论红细胞分布宽度,Gasparyan 等(2011)讨论平均血小板体积。论文把它们写成便宜、可解释、广泛可得的标志物,没有逐篇批评。

    智能体科学发现

    • 技能与工具式科研:Boiko 等(2023)、M. Bran 等(2024)和 Gottweis 等(2026)用智能体回顾文献、提出假设并执行实验。论文用它们说明可以发现新的血液标志物,没有与这些系统做实验对比。
    • 前沿研究工具:论文点名 Gemini 3 Pro、GPT Deep Research 和 SciSpace BM Agent 能依据公开文献提出表达式,却往往不能在受保护环境内用真实患者数据训练。

    边界内的临床数据

    • 联邦学习:McMahan 等(2017)和 Kaissis 等(2020)在不集中患者级数据的情况下训练共享模型。作者称其设计目标是协同训练,而不是对候选表达式做带实时反馈的迭代评估。
    • 私有 EHR:Rajkomar 等(2018)和 Topol(2019)被用来说明有信息量的队列位于机构防火墙或气隙网络之后。

    基线与队列

    • 基线:文献种子 CBC 比值(多为 NLR 或相近比值)、各工具自己发出的首条表达式、14 个 CBC 特征里 AUC 最高的单个特征,以及把 GAT 换成均匀随机分数的对照。
    • 队列:监督标签来自 Clalit;不重新训练的外部评估用 MIMIC-IV、EHRShot 和 NHANES。

    作者把本文定位成那个缺失的工件:边界内学习、边界外排序、推理时不查询患者记录。作者另引 Finlayson 等(2021)、Subbaswamy 与 Saria(2020)和 Chekroud 等(2024),说明外部迁移依赖队列,因此把结果当作优先级证据,而不是独立筛查。

  3. 论文如何解决这个问题?

    在机构内用GAT预测CBC表达式的方向无关AUC,只发布权重供智能体按预测分迭代。

    整体上,疾病特异性 GAT 打分器在 Clalit 边界内学习表达式结构到方向无关 AUC 的映射,只导出权重;外部智能体只看到预测分,实现 AUC 在选择之后才计算。

    表达式空间与私有标签

    • 语法:候选是二叉树。叶节点来自 14 个 CBC 特征,内部节点为加、减、乘、除,禁止数字字面量,深度上限为 3;可交换的等价形式会去重。
    • 合成语料:每种疾病独立生成约 2,000,000 棵树,按 80/20 划分。作者给出深度 1、2、3 的全体规模为 784、约 2.55×10^6 和约 2.6×10^13,因此深度 3 必须抽样;抽样比例约 5%、25%、70%。
    • 标签:在 1:1 病例对照子队列上计算方向无关 AUC,定义为 AUC±(e)=max{AUC(e),1−AUC(e)},正向与反向关联得到同一分数,标签落在 [0.5, 1.0]。
    • 时间窗:病例索引日是最早诊断就诊,前面有 30 天空白;CBC 取该日前五年回顾窗内的最后一次。对照无目标诊断,索引日从病例索引日的经验分布抽取。

    GAT 与发布接口

    • 网络:每种疾病一个 GAT,6 层、8 个注意力头、256 维隐藏状态、dropout 0.1,再对全部节点做注意力加权读出,输出变换到 [0.5, 1.0]。超参在类风湿关节炎上选择后,13 种疾病共用。
    • 目标:点回归用 Huber,列表排序用 α-ListNet。合成损失为 L(B)=β LHuber(B)+(1−β)LListNet(B),β=0.5,Huber 阈值 γ=1。按验证损失最小选模,秩相关只作平局时的次级规则。
    • 发布内容:只导出权重和非患者元数据。MCP 接受疾病标识和一条或一批表达式,返回 [0.5, 1.0] 的预测 AUC,无法解析则为空。作者在 Methods 4.13 称,训练对是表达式和队列级 AUC,不是患者行。

    提议、打分与停止

    • 种子:Opus 4.7 DeepResearch 先只凭公开文献,为每种疾病组装与炎症或疾病活动相关的 CBC 比值,再开始第一轮。
    • 循环:每轮最多 200 条。去掉非法或重复后,由已发布 GAT 批量打分。下一轮只看到预测分:迄今预测分最高的表达式,以及一小批近期不重复候选。
    • 停止配置:最佳预测分连续 5 轮无严格提升,或达到 15 轮。作者称实际执行偏松:13 次中 11 次在最高分出现后 0 到 3 轮结束,乳糜泻符合名义 5 轮,溃疡性结肠炎跑满 15 轮。Table 6 的轮数是各次实际运行,不是严格规则的输出。
    • 深度未程序化:过滤器检查特征、算子和无字面量,不检查深度。作者称 13 条入选式中有 5 条超过三层算子,其中溃疡性结肠炎 11 个叶、银屑病 9 个叶;这 5 条的预测分是深度不超过 3 的训练语法之外的外推。外部 AUC 是实测,不依赖该预测。

    重排、外部判定与归因

    • 重排:不用迭代搜索。三种工具按冻结提示各生成合法表达式;提示在基准冻结前用 GAAPO 优化。比较同一集合里的工具首条和 GAT 预测分最高者,再到外部队列计算 AUC。
    • 外部协议:不重新训练,特征约定与 Clalit 对齐。百分位自助 95% 区间用 500 次重抽样。NHANES 主分析只保留有核实诊断的银屑病和类风湿关节炎。
    • Shapley:在 MIMIC-IV 上把发现式标准化并固定方向,以整个表达式为唯一预测变量拟合 logistic,再对出现的原始 CBC 特征做精确干预 Shapley;参考患者是队列中位数。d≤8 时对全部 2^d 个联盟求和。方向被分成 Expected、Surprising 或 Unclear,并做对抗性引文核验。
  4. 论文做了哪些实验?

    81次重排中67.9%优于工具首条,但EHRShot中位增益为0;搜索中位增益为4.18个百分点。

    实验设置

    • 训练队列:13 种免疫介导疾病。Clalit 平衡后的人数见表 1,系统性硬化症 2,390(1,195 例),银屑病 111,835(55,917 例)。每种疾病约 200 万合成表达式。
    • 智能体与工具:迭代搜索用 Opus 4.7 DeepResearch。重排用 GPT Deep Research、Gemini 3 Pro、SciSpace BM Agent,每种疾病约 200 条,范围 168–229。
    • 外部队列:MIMIC-IV 在 12 个可评估疾病上平均 71,748 人(68,113–75,883);EHRShot 平均 2,853 人(2,490–3,327)。NHANES 主分析为银屑病 16,997、类风湿关节炎 38,887。家族性地中海热在 MIMIC-IV 无阳性病例。
    • 指标:方向无关单变量 AUC,增益记为 AUC 百分点。打分器诊断是 Spearman、AUC 的 MAE 和 NDCG@5000。尾部筛查用 precision-at-K,K 为 0.5%、1%、5%,以及 1% 处相对基础患病率的富集。
    • 判定:AUC 由受限算术解释器计算,不是 LLM 评审。区间为 500 次百分位自助。重排使用配对 Wilcoxon 符号秩检验。论文未报告整套实验的重复次数。
    • 信息隔离:搜索、排序和早停只使用预测分。实现 AUC、自助区间、病例数和患者级信息不进入该循环。

    主结果

    作者在 Discussion 把外部工具重排写成这一发布方式最清楚的证据。下表数字出自 Results 2.3。

    表格较宽,可左右滑动

    面板比较数打分器优于工具首条中位配对增益
    MIMIC-IV3686.1%+3.67 AUC pp
    EHRShot3948.7%0.00 AUC pp
    NHANES 核实诊断683.3%+3.83 AUC pp
    主面板合计81(55 胜)67.9% [57.1%, 77.1%]+1.50 AUC pp
    • 检验:主面板配对 Wilcoxon p = 4.0×10−5,均值增益 +1.81 AUC pp;MIMIC-IV 的 p = 1.9×10−5。NHANES 核实诊断子面板 p = 0.063,作者称这提示优势,但不足以确立。EHRShot 的 p = 0.92,作者称没有可检出的重排优势。
    • 分工具:三种工具各 27 次比较。打分器胜率与中位增益为 GPT Deep Research 74.1%、+1.25,Gemini 3 Pro 66.7%、+1.54,SciSpace BM Agent 63.0%、+1.05,单位均为 AUC pp。
    • 敏感性:9 次粗略自报的 NHANES 比较全部由打分器胜出,中位 +8.94、均值 +7.25 AUC pp。并入主面板后为 90 次中的 71.1%、中位 +1.91;作者称该合并数只供参照。作者写明未检验这些工具预训练是否见过外部队列。

    预测分引导的搜索

    • 测了什么:13 病各选一条预测分最高的表达式,结束后才在外部队列比较起点与发现式(Table 6、Figure 4)。家族性地中海热只在 EHRShot 可评,且只有 3 个阳性,作者称其 +4.48 不是稳定估计。
    • 结果:13 病中位增益 +4.18 AUC pp,从乳糜泻 +1.89 到 SLE +15.92。去掉家族性地中海热后,中位 +4.08、均值 +5.95。SLE 的起点 NEUTpct/LYMpct 在 MIMIC-IV 为 0.516,发现式为 0.676。
    • 作者解读:作者将其解释为选择约束下的验证收益,而不是可免审计的自主临床增益。起点已有信息时绝对提升空间较小;RA、SLE 等起点接近机会水平时增益较大。Figure 4c 中,中位到第 5 轮已捕获 95% 的预测分增益;溃疡性结肠炎到第 13 轮才达到该阈值。

    外部点估计与筛查尾部

    • MIMIC-IV:12/12 可评估格中,发现式点 AUC 不低于起点;其中 6/12 满足更严标准,即发现式 95% 区间下界高于起点点估计(Table 3、Figure 3a)。
    • EHRShot 与 NHANES:EHRShot 上 7/12 的点 AUC 更高,只有 1/12 通过上述区间标准(Figure 3b)。NHANES 主分析中,类风湿关节炎从 0.522 到 0.640 且区间分开;银屑病从 0.592 降到 0.570,区间重叠(Table 3、Figure 3c)。
    • 1% 精度:27 个可评估格里,相对基础患病率的富集最高 6.38 倍,但只有 15 格超过随机筛查,9 格没有富集(Table 4)。最大为 Hashimoto 在 MIMIC-IV 的 6.38 倍、在 EHRShot 的 4.20 倍,以及 SLE 在 MIMIC-IV 的 3.62 倍。作者称这应读作筛查尾部诊断,而不是可部署筛查表现。

    单特征、随机对照与文献方向

    • 单特征:在同一开发队列留出划分上,14 个未变换特征中 AUC 最高者,在 8/13 病高于各工具前 5 条中的最高者,5 病低于,全精度下无平局;对 13 病平均高 +1.80 AUC pp,只对胜出的 8 病平均高 +4.3。打分器列在每一病都更高,均值 +2.83 AUC pp(Table 5)。该列是 5 个生成器各取预测分最高的 5 条、共 25 条中的最大;作者称 12/13 病的最大值来自未具名的内部文献增强生成器,甲状腺功能亢进来自 SciSpace 列表。Table 5 中 GPT Deep Research 的 1 型糖尿病和类风湿关节炎为 n.a.。
    • 随机对照:同一循环把 GAT 换成 [0.5, 1.0] 上的均匀随机分后,13 病均值事后增益从 +5.84 降到 +0.07 AUC pp,中位从 +4.18 降到 −0.62;名义为正者从 13/13 降到 4/13(§2.6、Table 8)。去掉家族性地中海热后,均值从 +5.95 到 +0.13,中位从 +4.08 到 −0.51。作者称这 4 个正增量的自助区间与各自起点重叠,并称数万条表达式上随机分与实现 AUC 实际上不相关。对照臂起点在 8/13 病与主臂不同。
    • Shapley:12 个表达式的 64 个特征贡献中,41 个 Expected、21 个 Surprising、2 个 Unclear(Table 9)。SLE(AUC 0.676)全部 Expected;类风湿关节炎(0.615)6 个中 5 个 Expected。Surprising 较多的是溃疡性结肠炎(6 个中 5 个)、多发性硬化和 1 型糖尿病;克罗恩病和乳糜泻 AUC 较低,但作者称方向全部 Expected。作者认为 Sjögren 与系统性硬化中 MCV 升高更可能反映治疗或年龄相关的大细胞增多;同一特征出现在分子和分母两侧,更像符号回归过拟合。作者称这不是因果证据。

    其他消融与分析

    • Table 2:留出合成表达式的 Spearman 从多发性硬化 0.801 到桥本甲状腺炎 0.986;MAE 最大为 SLE 的 0.0186;NDCG@5000 为 0.984–0.999。正文把中位 Spearman 写作约 0.93,范围写作 0.80 到 0.99。
    • Figure 2b:类风湿关节炎的智能体候选上,预测分对真实 AUC 的 ρ=0.70,n=1905;坐标轴为 predicted score 与 held-out AUC,并画有 y=x。
    • 审计(Methods 4.7):主队列上找到对照集的 10 次运行中,发现式都低于最强的独立工具表达式。Table 6 中 10 病为 TOPUP_NEEDED,溃疡性结肠炎为 AUDIT_OK,桥本为 TERMINATE_EARLY,SLE 为 TERMINATE_LATE。
    • Discussion:作者称打分器相对单特征的 +2.83 AUC pp 中,约 +0.26 可在独立性零假设下归因于更宽候选池;甲状腺功能亢进的边际与该选择效应无法区分。
    • Methods 4.6:Table 7 的 12 个可评估运行中,5 个深度大于 3 的式子既有最大的预测减外部 AUC 差(系统性硬化 +14.8 AUC pp),也有唯一负差(银屑病 −4.9)。作者称这不能确立方差增大或没有偏倚。
    • 重排的主面板与 9 次敏感性比较没有合成同一次检验;合并后的 71.1% 只作参照。
  5. 有什么可以进一步探索的点?

    作者把深度校验、对照起点和门诊再归因为后续点,并提议多机构与单一多疾病GAT。

    作者指出的局限与后续方向

    • 深度上限未强制:5/13 入选式超出深度 3,其预测分是外推。作者将其标为搜索框架的局限,并称生产部署应在同一校验层拒绝或显式标记超语法候选(Methods 4.6)。
    • 随机对照起点未固定:对照臂在 8/13 病给出了不同起始比值。作者称这是该对照的局限(Table 8 注、Methods 4.8)。
    • 门诊再归因仍开放:作者称 EHRShot 每种疾病中位只有 47 个阳性,不足以做稳定的逐特征归因,门诊再归因仍是开放验证步骤(Methods 4.12)。
    • 多机构:作者称同一发布模式可以跨机构做成集成,以改进打分(Discussion)。
    • 轨迹与词表:作者提出可从基线 CBC 扩到纵向轨迹,以及化学、尿检或炎症标志物,同时保留无患者行的接口(Discussion)。
    • 面板与模型:作者提出疾病面板可超出这 13 种,并称后续应训练一个覆盖多种疾病的 GAT(Discussion)。

    实验覆盖范围

    • 搜索与打分器训练覆盖 Table 1 的 13 种免疫介导疾病;外部点估计主要来自 MIMIC-IV 和 EHRShot,NHANES 主分析为银屑病与类风湿关节炎(Table 3)。
    • 迭代搜索智能体是 Opus 4.7 DeepResearch;重排工具是 GPT Deep Research、Gemini 3 Pro 和 SciSpace BM Agent,主面板为 81 次核实诊断比较(Results 2.3)。
    • 每个可评估的疾病–队列格使用 500 次重抽样区间;论文未报告整套实验的重复次数。
    • 论文写明没有检验三个外部工具在预训练中是否见过 MIMIC-IV、EHRShot 或 NHANES(Results 2.3)。
    • 表达式和训练标签只用 CBC,不把年龄、性别或其他人口学协变量当作输入;作者在 Discussion 写明,这并不确立没有人口学混杂,并指向 Methods 里对残余年龄混杂的讨论。
  6. 总结一下论文的主要内容

    私有队列被蒸馏成GAT打分器;搜索中位高4.18个AUC百分点,重排优势随队列变化。

    把私有 CBC 证据蒸馏成可发布的 GAT 打分器,使前沿智能体在不读取患者行时给生物标志物表达式排序。

    • 问题:能评估候选标志物的队列在机构边界内,而擅长提议的前沿模型往往不能在其中训练。作者称联邦学习也不提供对单条新表达式的实时打分。
    • 方法:Clalit 上为 13 种免疫介导疾病各合成约 200 万棵深度不超过 3、无数字字面量的 CBC 表达式树,用方向无关 AUC 训练 GAT,只发布权重。Opus 4.7 DeepResearch 按预测分迭代;另三个工具的候选只做一次性重排。
    • 搜索:相对文献种子起点,13 病外部事后 AUC 的中位增益为 +4.18 个百分点(Table 6)。去掉只有 3 个阳性的家族性地中海热后为 +4.08。SLE 在 MIMIC-IV 从 0.516 到 0.676。
    • 重排:81 次核实诊断比较中,打分器首选优于工具首条的比例为 67.9%,中位 +1.50 个百分点。MIMIC-IV 为 36 次中的 86.1%;EHRShot 为 39 次中的 48.7%,中位增量为 0(Results 2.3)。
    • 对照:把 GAT 换成随机分后,13 病均值增益从 +5.84 降到 +0.07 个百分点。开发队列留出划分上,打分器候选比 AUC 最高的单特征平均高 2.83 个百分点(Table 5)。64 个 Shapley 分量中 41 个与文献方向一致(Table 9)。
    • 作者结论:作者称私有 EHR 证据可以变成不暴露个体数据的排序资源;当前就绪的是排序、分诊和假设生成,而不是免审计的可部署标志物。外部增益依赖队列。
阅读原文huggingface.co