研究：无关信息污染患者病历并干扰 LLM 临床推理

临床文书和临床推理可能把与本次就诊无关的偶发信息写成患者信息，或拿来支持评估和计划。

• 场景：作者称应用从环境转写到环境 scribe，把录音或转写变成供医生审阅的笔记。Doximity 在 2025 年 11 月至 2026 年 1 月的调查中，29% 的应答美国医生报告使用语音 AI 文书工具。作者称笔记签署后成为病历中的持久记录，可影响问题列表、计费、后续诊疗，以及医院政策或系统级模型训练。
• 偶发内容：作者指建立关系的闲聊，或另一次就诊的背景语音。它们可与临床细节交织，但不增加该患者的医学信息。病历中的工具必须把患者相关信息与偶发内容分开。
• 现有不足：作者称与主诉无关但医学上显眼的信息会妨碍 LLM 做医学考试题，对临床部署中可靠性的含义不清楚。商用 scribe 审计里，不常见编造的临床后果分级最高，说得通的错误在审阅时难发现；其他领域的无关上下文也会损害推理。
• 假设：作者提出双编码假说：与偶发信息干扰相关的组件也参与临床推理。因此针对偶发上下文的防护可能同时削弱推理。
• 做法：作者构建配对基准 MedDistractNotes 与 MedDistractAudio，分别从对话文本和背景语音追踪偶发信息是否进入笔记，并与通用质量分对照；再用 MedDistractQA 做注意力头干预。作者认为临床使用前应评估对偶发信息的抵抗，防护应避免污染并保留推理。

引言和讨论按应用、无关上下文和错误审计组织已有工作；机制方法在 Methods 中作为所扩展的框架写出。

• 环境听写与文书：Tierney 等（2024、2025）、Shah 与 Johnson（2025）、Duggan 等（2025）报告环境 AI scribe 减轻文书负担、使用一年后的经验，以及临床医生体验。Doximity（2026）报告应答医生使用语音 AI 文书工具的比例。Lawrence 等（2025）讨论门诊生成式 AI 环境文书的知情同意。论文用这些工作说明笔记会成为持久病历实体，未逐篇批评方法。
• 无关信息与推理：Vishwanath 等（2025）即作者先前的 MedDistractQA，报告与主诉无关但医学上显眼的信息会妨碍医学考试题。作者称其对临床部署的含义不清楚，并引用 Hager 等（2024）、Wornow 等（2023）、Vishwanath 等（2026）。Shi 等（2023）、Mirzadeh 等（2025）、Liu 等（2024）分别涉及无关上下文、符号数学变体和长上下文中部信息。论文只称其他领域的无关上下文也会损害推理，未逐项对比。
• 商用 scribe 审计：Draper 等（2025）评估初级保健 AI scribe 的准确性与错误后果分级；作者称不常见编造的分级最高。Palm 等（2025）、Anderson 等（2025）评估 AI 笔记或模拟门诊中的环境数字 scribe。作者称医学上说得通的错误在审阅时难以发现。
• 机制方法：Nam 等（2025）的因果头门控用于解释注意力头。作者称对比因果头门控是对该框架的扩展，改为清洁–分心配对目标。清洁激活修补引用 Meng 等（2022）、Vig 等（2020）、Zhang 与 Nanda（2024）。Elhage 等（2021）被用来把注意力头定义为跨输入组合信息的组件。论文未批评这些方法。

基线与语料：文书臂以同一就诊的清洁转写为配对阴性对照；音频臂以未混合录音为对照；机制臂以等数量随机头，以及忽略无关信息的指令和思维链前缀为对照。语料为 ACI-Bench、MTS-Dialog、PriMock57；机制探针来自 MedQA-USMLE 测试划分上的 MedDistractQA。

作者在 Discussion 中称，这是直接考察偶发信息敏感性作为文书与临床推理共同失败模式、并把它作为环境听写可能风险来评估的工作之一。作者认为通用质量分可以错过这种错误，因为来源语句在转写中，但并不描述该患者。

整体是三条臂（Fig. 1b）：MedDistractNotes 在转写中插入闲聊，MedDistractAudio 在录音上叠加另一就诊的语音，机制臂用 对比因果头门控（CCHG） 在考试题上检验双编码假说。每个清洁输入都有只多出插入内容的分心版本。

扰动与终点

• 两类扰动：bystander 是具名第三人的非传染性疾病或择期操作，材料为 12 个器官系统中的 67 种情况；亲属只用于外伤和择期操作。nonliteral 把医学术语用作名称或比喻，材料为 24 个条目。交换设计成患者发起的闲聊，不增加该患者的信息，医生只延续对话、不给建议。
• 主要终点：生成笔记中目标特异污染的分心减清洁差值。目标特异污染定义为把插入的旁白不适当地写成有临床意义的信息。归因、失败模式、质量分、敏感性分析和逐头校正为探索性终点。
• 语料：ACI-Bench 的 aci 来源验证集 11 份与三个测试集各 22 份，共 77 次完整就诊；MTS-Dialog 的 Test Set 1、Test Set 2 与验证集共 500 段摘录。排除 1 段只有医生一句的摘录后为 576 次就诊。未使用 ACI-Bench 训练集和其他两个来源。

MedDistractNotes

• 插入：GPT-5.4（2026-09-07）先以 temperature 0 给器官系统标签；177 段被标为 general 的摘录再按固定种子随机分配系统。同一模型以 temperature 0.3 为每次就诊、每一扰动族生成 3–4 轮、沿用原说话人标签的交换、一句话摘要和建议插入点。自动检查轮数、标签、长度、指定内容和患者自述症状；失败则重生成，旁观者与非字面平均 1.02 与 1.15 次尝试。最终各 576 条交换，覆盖 66 种情况与 24 个条目。清洁与分心转写只差插入行。Supplementary Note 1 给出完整提示词。
• 写笔记：四个前沿模型与四个开源权重模型各写 SOAP 笔记。开源模型为 Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3、Gemma-2-9B-it，bfloat16、贪心解码、最多 1,024 个新 token。前沿模型为 GPT-5.4、GPT-5.6 Sol、Claude Opus 5、Claude Fable 5.1（2026 年 9 月 API，默认推理设置）；支持时 temperature 为 0，Claude 5 系列不接受该设置。输出上限 GPT 为 1,024 token，Claude 为 4,096。每队列 576×2×4 = 4,608 对。
• 判定：Claude Sonnet 5 在盲化、随机顺序下看到清洁转写、旁白的一句话摘要和两份笔记，对每份笔记给二元写入判断和 0–3 严重度；提示中未给严重度等级的文字定义。清洁笔记是就诊内假阳性对照。GPT-5.4（temperature 0）另按转写和参考笔记评临床正确性、完整性、简洁性、总体质量（五分制）和二元幻觉标记。被标为写入的分心笔记再由第二次 Claude Sonnet 5 调用分成：误归于患者、正确归因但用于评估或计划、正确归因且未临床使用。

MedDistractAudio

• 混合：PriMock57 的 57 次模拟初级保健问诊。每次按固定种子选两个供体，取人类转写中临床关键词最密的 5–15 秒窗口，叠到目标录音中间 60% 的固定起点，相对 RMS 为 −20、−15、−10、−5 dB，再峰值归一化。得到 57 条清洁录音和 456 条混合录音，每一电平 114 条。
• 转写与笔记：Whisper large-v3 贪心、英语、30 秒分块、无说话人分离。四个开源模型用上述 SOAP 协议写笔记。泄漏是叠加片段的内容词（字母、至少四字符、去掉停用词）出现在混合转写但不出现在清洁转写中的比例。污染评审仍用配对法官，目标是叠加片段的人类转写，并标明来自另一患者的问诊。预设主终点是 −10 dB 的汇总污染差值。重抽样单位是问诊。

机制探针

• 题目：MedDistractQA 为 MedQA-USMLE 四选项测试划分的 1,273 题各配一句非字面和一句旁观者插入，紧挨题干最后一句之前，不提供患者信息。句子由 GPT-4o（temperature 0.6，2025 年 2 月）按五个固定例句生成。四个写笔记的开源模型以条件对数概率选择答案字母。种子 0 分成 1,146 道训练题（只拟合门控）和 127 道留出题。
• CCHG：每个注意力头输出乘门控 g_h = σ(z_h)，初值 0.5。损失是各题上清洁与分心输入正确答案对数概率之差的均值，加上 λ 倍各头 (1−g_h) 的均值；λ 预先固定为 5，未调参。第一项缩小配对对数概率差，第二项惩罚把门控压低。目标既可能靠提高分心答案概率，也可能靠降低清洁答案概率。Adam 更新 500 步，学习率从 10 的 −2 次方线性降到 10 的 −3 次方。最终门控低于 0.5 的头称为干扰头。
• 干预：清洁激活修补把分心输入上所选头的输出换成位置对齐的清洁激活；插入 token 没有清洁对应位置，保持不修补。对照是等量随机未选头，或全部头。抑制把所选头输出乘以 1、0.75、0.5、0.25 或 0。另在同一对数概率评分下比较忽略无关信息的指令和思维链前缀。

实验设置

• 被测模型：笔记为 GPT-5.4、GPT-5.6 Sol、Claude Opus 5、Claude Fable 5.1，以及 Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3、Gemma-2-9B-it。音频转写为 Whisper large-v3。机制臂只用上述四个开源模型。正文结果多用简称。
• 数据：MedDistractNotes 为 576 次就诊、两种扰动、两队列各 4,608 对，合计 9,216 对（18,432 条笔记）。MTS-Dialog 中位 350 字符，插入占分心转写中位 43%；ACI-Bench 中位 6,538 字符，旁白占 4%。MedDistractAudio 为 57 次问诊、四档电平、114 条混合/电平。机制留出题每模型、每扰动族 127 题。
• 对照：清洁转写或清洁录音；机制臂另有等量随机头和全部头修补。忽略无关信息与思维链只在机制探针上比较，不是文书防御实验。
• 指标：目标特异污染、误归因、正确归因后的临床使用、只记录；五分制质量分；转写泄漏；考试题准确率。失败模式由固定关键词规则归类，Supplementary Note 2 给规则。
• 评审：污染与归因为 Claude Sonnet 5；质量分为 GPT-5.4，与被测笔记模型之一同名。严重度 0–3 未做临床验证。文书主区间为 2,000 次笔记对 bootstrap；另有 5,000 次整就诊重抽样。音频为 2,000 次问诊 bootstrap。机制为 2,000 次题目 bootstrap 和 exact McNemar。
• 生成次数：开源笔记为贪心解码，每条转写一份。论文未报告前沿笔记的重复生成。两份前沿记录为空，仍留在主分析。

主结果

下表是全部分心笔记、两种扰动合计的写入与误归因（Results 正文）。每模型有 1,152 条分心笔记。正文未给出的单项写「未报告」。

模型	分心笔记写入旁白	误归因
GPT-5.4	8.9%	0.3%
GPT-5.6 Sol	13.2%	1.0%
Claude Fable 5.1	50.2%	2.0%
Claude Opus 5	67.6%	4.6%
Gemma-2-9B	38.9%	11.6%
Qwen2.5-7B	62.2%	未报告
Mistral-7B	未报告	33.1%
Llama-3.1-8B	未报告	未报告

• 队列汇总：前沿 1,612/4,608（35.0%，95% CI 33.6–36.3），摘要写作 35%；清洁笔记 0/4,608。开源 2,309/4,608（50.1%），清洁笔记 4/4,608（0.09%），配对升高 50.0 个百分点（95% CI 48.6–51.5）。开源写入率只给出两端，故 Llama-3.1-8B 与 Mistral-7B 的写入率未报告。
• 扰动与长度：旁观者高于非字面，前沿 43.9% 对 26.1%，开源 59.1% 对 41.1%。MTS-Dialog 上前沿写入 40.0%；污染升幅从最短五分位的 60.1 个百分点降到最长的 17.0（Spearman ρ = −0.31），开源为 85.0 到 19.2（ρ = −0.48）。ACI-Bench 完整就诊前沿为 2.6%（95% CI 1.5–3.9），开源为 3.7%。作者称污染在旁白占比更高的短文本中最大。
• 队列差异：作者报告开源误归因 25.7%（95% CI 24.4–27.0），前沿 2.0%（95% CI 1.6–2.3）。每个开源模型的误归因都高于误归因最高的前沿模型（11.6–33.1% 对 0.3–4.6%）。

归因、失败模式与质量分

• 三类结局：前沿分心笔记中，30.9%（1,422 条）只记录、未临床使用；1.7% 正确归因仍临床使用（95% CI 1.4–2.1）。摘要把误归因与临床使用合称为 3.7%。作者称正确归因后的临床使用集中在 Claude Opus 5（5.6%）。开源另有 4.1% 正确归因后临床使用、19.8% 只记录。1,612 条被标写入的前沿笔记中，归因法官把 15 条标为未出现、5 条未解析；开源 2,309 条中为 17 与 10。这些笔记留在分母外、三类之外。
• 失败模式：170 条前沿误归因或被采用的笔记中，作者列出 24 条把他人情况写成患者主诉或诊断，23 条写成家族史或危险因素，24 条读成未说出的担忧并加入筛查或咨询，37 条把闲聊写成精神状态或精神科发现，18 条把比喻写成关于患者的事实，33 条把第三人的活动写成患者本人的活动。1,371 条开源笔记中，39%（n = 541）把他人情况写成患者主诉、诊断或手术史，18%（n = 244）写成精神状态发现，15%（n = 203）把比喻写成医学事实；家族史错误 80 条，推断出的担忧 45 条。作者称后两类在开源队列中所占比例小于前沿队列。评估或计划中出现插入内容的前沿分心笔记为 6.8%（GPT-5.6 Sol 1.7% 至 Claude Opus 5 16.3%）。动作语言规则命中 4.9%，Claude Opus 5 的旁观者交换为 19.4%；作者称该规则不能确立已采取临床行动。
• 质量分登记不到：作者称尽管 35.0% 的分心前沿笔记含污染内容，五分制分数最多变化 0.20 分：临床正确性 −0.02（95% CI −0.04 至 −0.01），完整性 −0.05，简洁性 +0.20，总体质量 +0.08（95% CI 0.06–0.10）。开源基线总体质量 3.0 对前沿 4.0，分心下临床正确性下降 0.27（95% CI 0.24–0.31），完整性与总体质量各下降 0.23。作者称这些下降表示笔记变差，但不能指出归因错误。转写中不存在的语句标记在清洁前沿笔记已为 70%、清洁开源为 92%，分心下变化小于 0.07。

背景语音

• 转写：预设的 −10 dB 上，55/114 条混合转写（48.2%）至少出现一个清洁对照中没有的背景内容词；片段内容词平均漏入 14.5%（95% CI 10.8–18.5）。至少一词泄漏在 −20 dB 为 19.3%，在 −5 dB 为 67.5%（Fig. 3）。作者称泄漏本身不构成临床后果性错误。
• 笔记：−10 dB 时 24/456 条下游笔记被判定含背景内容（5.3%，95% CI 2.9–8.1），配对清洁对照为 1.3%，差值 3.9 个百分点（95% CI 1.3–7.0）；−5 dB 差值 8.6 个百分点。有至少一词泄漏的转写，笔记污染 11.5%；无泄漏为 0.6%。临床正确性变化 −0.03（95% CI −0.11 至 0.05），总体质量 −0.01（−0.09 至 0.07）。作者称质量分变化不大。1,824 对中 2 对因评审输出无法解析而排除。

双编码的机制证据

• 分心掉点：127 道留出题上，旁观者使准确率下降 5.5–12.6 个百分点，非字面下降 10.2–14.2 个百分点（Fig. 4a）。八项清洁对分心比较经 Benjamini–Hochberg 校正后，作者报告 7 项仍显著。
• 修补：清洁激活修补在 8 个模型–扰动条件中的 7 个提高准确率，挽回 6.3–16.5 个百分点；其中 6 个未经校正的 exact McNemar P < 0.05。最大为 Mistral-7B 非字面，从 40.2% 到 56.7%（+16.5 个百分点，95% CI 8.7–24.4）。这 7 个条件中，所选头优于等量随机头，并达到修补全部头所得增益的 83–117%。
• 抑制：在清洁题目上把 CCHG 所选头压到 0，八个条件准确率下降 24.4–37.8 个百分点；等量随机头为 −9.4 至 +0.8 个百分点（Fig. 4d）。作者称这支持双编码假说，并指出 CCHG 也可能通过降低清洁答案概率来缩小差距。Fig. 4 注称干预探测的是考试题，向笔记生成的迁移尚未测试。忽略无关信息或思维链前缀并未一致提高准确率（Extended Data Fig. 5；正文未给出各条变化值）。

其他消融与分析

• 单笔记与配对评审的分心减清洁差值：前沿 32.8 对 35.0 个百分点，开源 49.7 对 50.0；单笔记评审对两队列清洁笔记的标记均为 0%（Extended Data Fig. 3）。
• 亲属与非亲属误归因：前沿 0.9% 对 1.2%，开源 21.4% 对 26.7%；写入率 44.2% 对 43.7%，以及 57.4% 对 60.3%。比喻误归因高于旁观者病情：2.8% 对 1.1%，27.0% 对 24.4%（Supplementary Note 3，作者称属探索性比较）。
• 头集合（Extended Data Table 1）：Llama-3.1-8B 为 17/1,024（1.7%）与 15/1,024（1.5%），Jaccard 0.78；Qwen2.5-7B 为 58/784（7.4%）与 56/784（7.1%），0.39；Mistral-7B 为 143/1,024（14.0%）与 160/1,024（15.6%），0.70；Gemma-2-9B 为 146/672（21.7%）与 159/672（23.7%），0.62。随机期望为 0.008–0.1。
• 7/8 条件中，所选头对插入 token 的注意力是其他头的 1.4–2.3 倍（Extended Data Fig. 7；作者称该诊断无置信区间）。探索性逐头校正使留出准确率变化至多 0.8 个百分点，作者称不用于支持主张。
• 排除两份空前沿记录不改变四舍五入后的前沿写入率（Supplementary Note 3）。已写入旁白的笔记中，5–23% 在评估或计划里含该内容（Extended Data Fig. 2b）。

作者指出的局限与后续方向

• 生态变异：故意插入的交换和叠加音频不能捕捉日常临床的全部声学复杂度与对话变异（Discussion）。
• 完整就诊：污染在短摘录中最大，旁白占转写的比例更高，因此汇总估计可能高估完整就诊的污染率（Discussion）。
• 下游伤害：测的是生成的笔记和自动终点，不是下游患者伤害。医生能否在签署前发现这些归因错误、保留下来的错误如何影响后续诊疗，需要前瞻性临床评估（Discussion）。
• 判定：污染和归因由单个 LLM 判定，未经临床医生验证；失败模式用一套自动规则赋值（Discussion）。
• 机制范围：机制实验用开源模型和医学题，没有在通用知识基准上测试，临床特异性未知。未测试把分心激活反向修补到清洁输入，也未在笔记生成时做干预（Discussion）。Fig. 4 注亦称向笔记生成的迁移尚未测试。
• 后续：作者计划发布 MedDistractNotes 和 MedDistractAudio。作者提出未来防护可能要在输入中保留说话人、主体和临床相关性，采用针对归因的训练目标，并把生成断言与患者相关的转写片段核对；写笔记时的机制干预可以检验所选头是否也促成文书错误（Discussion）。

实验覆盖范围

• 文书臂：四个前沿模型与四个开源权重模型，576 次就诊，两种扰动，每队列 4,608 对、合计 9,216 对；开源笔记为贪心解码，每条转写一份（Results、Methods）。
• 音频臂：PriMock57 的 57 次模拟问诊，−20、−15、−10、−5 dB 四档，Whisper large-v3 转写，四个开源权重模型写笔记；预设主电平为 −10 dB（Results、Methods）。
• 评审：污染与归因为 Claude Sonnet 5，质量分为 GPT-5.4。论文未报告这些评审与临床医生判定的一致性；Discussion 写明未经临床医生验证。
• 机制臂：四个开源权重模型，MedDistractQA 留出 127 题；干预为清洁激活修补、等量随机头、全部头，以及把输出乘到 0。提示比较只在该探针上报告（Fig. 4、Extended Data Fig. 5）。
• 不确定性写法：文书主区间来自 2,000 次笔记对 bootstrap，另有 5,000 次整就诊重抽样；机制比较报告 exact McNemar，并在八项基线比较内做 Benjamini–Hochberg 校正。论文未报告前沿笔记的重复生成次数。

作者评估 LLM 在临床文书和医学答题中对偶发信息的敏感性，并把与分心相关的组件是否也支持推理作为一个假说。

• 问题：环境转写和 scribe 会把对话变成病历。闲聊或另一就诊的背景语音可以和临床细节混在一起，但不增加该患者的信息。作者担心模型把它写入笔记，或用来支持评估和计划，而通用质量分登记不到。
• 做法：576 次就诊上，清洁转写与只多出一段旁观者或非字面闲聊的转写配对，八个模型写 SOAP 笔记，由 Claude Sonnet 5 判目标特异污染和归因。57 次模拟问诊上，把 5–15 秒的另一就诊语音以四档电平叠加，Whisper large-v3 转写后由四个开源模型写笔记。四个开源模型再在 MedDistractQA 的 127 道留出题上做 CCHG、清洁激活修补和抑制。
• 文书：前沿模型把旁白写入 1,612/4,608 条分心笔记（35.0%），清洁笔记为 0/4,608；摘要写作 35%。误归因 2.0%，正确归因后仍临床使用 1.7%，摘要合称 3.7%。开源写入 50.1%，误归因 25.7%。完整就诊上前沿为 2.6%，开源为 3.7%。五分制质量分在前沿队列最多变化 0.20 分。
• 音频与机制：−10 dB 时 48.2% 的混合转写漏入背景词，5.3% 的下游笔记被判定污染。抑制所选头使清洁题准确率下降 24.4–37.8 个百分点；清洁激活修补在 8 个条件中的 7 个提高分心输入准确率。作者称忽略无关信息的指令和思维链前缀并未一致提高准确率。
• 作者的结论：一份笔记可以看起来完整，仍含对该患者没有依据的断言；转写中“有这句话”的检查会漏掉它，因为这句话并不描述该患者。作者称结果支持双编码假说，未来防护要减少分心，同时保留这些组件对推理的贡献。作者认为部署前应评估偶发信息被归于谁、又如何被临床使用，并计划发布两个配对基准。