撒哈拉以南非洲自主 AI 诊断智能体的负责任部署：患者知情与问责缺口

自主诊断智能体在患者未必知情、监管并不普遍就位时产出可执行的诊断或分诊，问责归谁。

• 出现的场景：作者称撒哈拉以南非洲专科与实验室长期短缺，结核筛查、糖尿病视网膜病变、孕产妇与精神健康等已使用AI。移动平台把分诊直接开放给患者，输出可能因流程压力、基础设施或有意设计，在没有实质人工复核时被采纳。
• 既有工作的空档：作者列出三点。问责文献以临床医生和系统为中心，较少单列患者是否知道智能体参与。EU AI Act一类框架预设具备审计能力的国家机构，该地区并不普遍具备。低读写、低监管、移动优先条件下的自主智能体尚未被专门处理。
• 作者的判断：无强制实时人工复核的系统，与只供临床医生解释的决策支持工具，在问责上不是同一类问题。患者碰巧是否察觉，目前决定其能否得到保护；高收入地区的发现不能假定可迁移。
• 本文做法：综合知情同意、算法问责与可解释AI研究，用坦桑尼亚计算机辅助结核检测、赞比亚视网膜与结核筛查、加纳移动健康聊天机器人分诊三个已记录部署说明缺口已出现，并提出三项最低原则：知晓智能体的知情同意、作为结构性要求的人工复核、按对象调整的解释。

作者认为既有问责与解释研究主要面向高收入地区的临床医生和监管者，未把该地区患者是否知道自主智能体参与当作独立问题。论文未设方法对比基线，也未自建数据集。

区域内的诊断部署

• 负担与人力：CEIMIA（2024）、Oladipo等（2024）讨论该地区传染病与非传染病负担，以及临床、实验室和专科短缺。作者用此说明AI筛查与分诊被用来延伸早期发现、减轻一线负担。
• 已记录应用：引言将Ephraim等（2024）、Njei等（2023）作为部署扩大的文献来源，范围包括结核、视网膜、孕产妇与精神健康。Bellemo等（2019）、Ephraim等（2024）被第2.1节用来列举赞比亚视网膜筛查、东非视网膜深度学习、西非宫颈癌病理辅助，以及加纳和东非的分诊与患者沟通。作者称部署在加快，部分输出在无临床中介时被采纳。

高收入语境中的问责、透明与同意

• 黑箱、责任与偏见：Mittelstadt等（2016）、Obermeyer等（2019）、Habli等（2020）讨论黑箱不透明、AI错误的责任、知情同意受侵蚀，以及算法偏见放大健康不平等。作者称这些关切已进入EU AI Act与WHO健康AI指引，但分析中心是已有临床治理和患者倡导的卫生体系。
• 解释随受众变化：Kiseleva等（2022）把透明写成技术可解释性、组织披露与法律合规的多层问责。Wachter等（2017）、Doshi-Velez与Kim（2017）认为可解释性不是单一属性，而是随受众变化的要求。作者称这些工作奠基，但主要面向高收入地区的临床医生与监管者。
• 同意：Mittelstadt等（2016）认为算法决策带来现有伦理与法律框架未按此设计的问责缺口。Char等（2018）讨论AI如何改变医患关系并加重披露义务。作者把二者定位为高治理环境中的分析。

非洲治理与全球议程

• 本地条件：Ibeneme等（2021）强调治理需计入非洲社会经济条件。论文在第2.3节称，多数国家以传统医疗器械或一般数据保护框架管理健康AI，并引该文认为这不足以覆盖自主诊断智能体。
• 全球议程与监督：Audêncio（2025）认为，全球AI治理若不把受影响人群放在中心，可能给该地区健康带来不公平结果。PATH（2024）提醒，缺少有力监督时，领域尚未准备好完全自主的诊断应用。
• 规则现状：作者引Ismail与Ndung'u（2024）：截至2024年仅七个非洲国家起草了国家AI战略，且没有国家实施正式AI监管。非盟大陆AI战略于2024年7月通过，第一实施阶段为2025–2026，重点是建立治理结构与动员资源。作者称即便在该框架下，可执行的AI治理机制也尚未就位。EU AI Act在此被用作对照：它预设有技术能力审计AI的国家当局。

作者如何定位本文 作者把缺口收成三条：患者知晓未被当作独立治理问题；现有框架假定的监管条件并不普遍存在；没有对该地区电子健康场景中患者如何理解自主决策的系统实证。Obaid等（2025）对英国医护的定性研究被引来支持第一点：从患者自身立场看自主性、信任与理解，研究尚未充分展开。本文做概念综合，并称一手实证仍是后续优先事项。

作者不提出可训练的新系统，而把第3节的三块缺口映射为第4节的三项原则，称作面向开发者、卫生机构与政策制定者的最低标准。Figure 3表示这一对应；正文未列出图内标签。

自主性谱系与操作定义

• 谱系：作者用Figure 1表示诊断AI不是非此即彼。正文描述为：临床医生查询才返回信息的被动工具；主动建议或标记异常、解释权仍在人的决策支持；输出可不经强制人工复核即被执行的半自主；输出被当作最终判定、无任何人工复核的完全自主。区分依据包括Russell与Norvig（2020）、Topol（2019）、Coiera（2019）和Habli等（2020）。
• 操作定义：三条同时满足才纳入。分析症状、影像或检验等患者特异数据，且不要求实时临床输入；产出拟被执行的诊断、分诊分类或临床建议；输出与临床行动之间没有强制人工复核。逐条输出都经合格临床医生负责后再行动的系统被排除。
• 问责落点：作者称问责通常跟着决策者。人复核并背书时，问责仍在该临床医生；设计上或事实上没有复核时，问责在结构上不清楚，患者缺少追索。

两层赤字与同意

• 技术层：作者称不少诊断系统、尤其深度学习，内部推理即使对开发者也不可解释。事后解释有进展，但主要面向技术受众而非患者。Figure 2图示这两层，正文未列出图内标签。
• 沟通层：患者很少被告知自主系统是否参与、系统做什么、自己对输出有何权利。数字素养较高或城市患者可能察觉；农村或正规教育较低者可能完全不知。作者称结构问题是：保护目前取决于患者碰巧是否知道，没有保证公平披露的机制。
• 同意：作者把上述输出视为医疗行为。知道、拒绝或要求人工复核，被写成既有同意原则的延伸，不是另造权利。作者转述Kiseleva等（2022）：AI场景的同意既依赖临床知识，也依赖对AI的理解；任何人群都不能假定这一点，在正式AI素养很低、系统经无披露的移动界面直接使用时更不确定。
• 核心挑战：问责链断裂、两层透明度赤字、既有同意框架不够用。作者未给这三块单独的量化指标。

三项原则

• 映射：同意问题对应原则1，要求患者层面的披露保证。无强制复核对应原则2。两层赤字对应原则3，技术与沟通都要以适合情境的形式处理。作者称这是最低可用框架，并不解答每一个治理问题。
• 原则1，知晓智能体的知情同意：参与诊断或分诊时，用患者能懂的白话和其主要语言告知。偶然察觉不等于有保证的披露。需讲清分析者是计算机而非临床医生，决定来自从数据学到的模式而非针对个人的临床判断，且患者有权要求人工复核。形式追求可及：口头通知、界面上的简短视觉提示，或接触点的本地语言标准语句，优于只在名义上完成披露的长篇技术同意书。
• 原则2，人工复核是结构性要求：不得产生终局且不可复核的临床结果。患者或临床医生应能在行动前请求人员复核。作者把它从文献中的可欲监督，改写成采购阶段就要核验的不可协商条件，依据为Habli等（2020）与PATH（2024）。检验问题是：能否阻止该输出在无人复核时产生临床效果？若不能，则不论技术表现如何，都不符合作者所说的基本标准。
• 原则3，按情境调整的解释：理由必须能传达给受影响者。作者点名LIME、SHAP与反事实解释，并称其主要面向技术与临床受众（Arrieta等，2020）。临床侧包括模型层解释、训练数据来源、本地代表性人群上的验证表现和已知局限，并衔接Obermeyer等（2019）关于算法透明与偏见记录的呼吁。患者侧不要求技术素养，用相关本地语言说明发现了什么、为什么。作者称要求高，但并非做不到，且是真正透明的条件。

主体义务与路径对照

• 开发者：披露界面是标准功能；复核路径在设计阶段写入流程；解释模块与诊断功能并行；本地化语言是部署前提，不是上线后的增强。还应记录与预定人群可比的验证数据。作者称，非代表性数据上训练的模型有再现或放大健康不平等的风险。
• 卫生机构：接入前要求文件证明披露机制、复核路径和本地代表性验证。作者称没有专门法规也不妨碍机构自定标准；监管仍在生长时，采购是最可立即使用的杠杆。
• 政策制定者：作者认为不能等待完整AI立法。针对临床路径中自主智能体、以三项原则为底线的专项指引，可在完整监管基础设施之前处理最紧迫风险，并与Ibeneme等（2021）、CEIMIA（2024）关于情境敏感、渐进治理的呼吁一致。
• 患者路径：Figure 4对比当前部署与落实三项原则后的路径。正文称有五个阶段，但未给出阶段名称。左列是患者得到结果却不知道AI参与、出错无追索；右列是同一路径按原则设计后的走向。作者称这些要求是架构和流程上的改变，不是抽象义务。

实验设置

• 实验性质：论文未开展原创实验，未报告样本量、重复次数、评审模型或统计检验。第3.4节是对已记录部署的阅读，不是新的临床验证。
• 三个案例：坦桑尼亚计算机辅助结核检测（CAD4TB）；赞比亚糖尿病视网膜病变筛查，以及2021–2023年三家卫生机构的胸片AI；加纳经移动通信直接接触患者的健康聊天机器人分诊。聊天机器人未给出产品名。
• 所引验证：Breuninger等（2014）在坦桑尼亚两项队列中报告CAD4TB区分培养阳性结核与对照的ROC曲线下面积。Bellemo等（2019）为赞比亚深度学习视网膜筛查的临床验证，作者称是该地区情境中较早的此类研究之一。Kazemzadeh等（2024）为胸片云端系统的多中心验证。本文没有复算这些研究。
• 治理文本：坦桑尼亚国家AI战略框架、赞比亚AI战略2024–2026、加纳国家AI战略2023–2033与AI Practitioners' Guide。第2.3节另引截至2024年的非洲国家AI战略计数，以及2024年7月通过、第一实施阶段为2025–2026的非盟大陆AI战略。
• 作者的判据：不是再比较诊断准确率，而是部署中有没有患者披露、可请求的人工复核和可理解的解释。
• 基线：论文未设对照方法，也未做系统间数值排名。

主结果

下表只收录本文写明的数字；空缺写未报告。性能来自所引研究，不是本文新测（第3.4节）。

案例	本文写明的技术结果	患者侧机制
坦桑尼亚CAD4TB	ROC AUC 0.84（两队列，培养阳性结核对对照；引Breuninger等，2014）	作者称患者未被告知AI读片，无正式人工核验路径
赞比亚视网膜筛查	未报告具体指标；作者称识别需转诊视网膜病变达到临床可接受表现（Bellemo等，2019）	作者称验证与后续部署文件未处理知情、同意与追索
赞比亚胸片AI	未报告具体指标；作者称可与放射科医师的表现相当（三家机构，2021–2023；Kazemzadeh等，2024）	与视网膜案例并述，论文未分开给出患者侧数字
加纳聊天机器人	未报告	作者称界面未必显示AI在做健康判定，也未说明置信度、未知信息与质疑途径

• 设计还是疏漏：作者称坦桑尼亚的缺口写进部署模型本身。CAD的主要价值主张就是在放射科医师稀缺处替代人工读片，并可在无网络、无在场受训读片者的远端使用；不披露、不设复核被写成设计选择。假阴性被描述为活动性结核未被识别和治疗，并关系社区传播；本文未给出该部署的假阴性率。
• 验证到部署：作者称赞比亚的技术验证没有延伸到患者问责。准确率文献不建立、且在多数情况下不处理患者是否被告知、是否同意自主AI参与、结果错误或含糊时有无追索。
• 三地总括：作者称加纳的缺口是可执行规则缺位。三地都在无患者披露、无强制人工复核路径、无可及解释的情况下采纳自主输出。作者称提高模型准确度填不上由这三项缺失定义的缺口。

治理文件是否写出补缺机制

• 坦桑尼亚与赞比亚：作者称两国国家AI战略都没有提供填补该缺口的机制。赞比亚被连到沟通层赤字：技术表现或可接受，患者与决策过程的关系仍未被处理。
• 加纳：作者称2023–2033国家AI战略和AI Practitioners' Guide是战略性和建议性的，尚未变成必须披露、提供复核或通俗解释的要求。
• 区域计数：截至2024年，作者引述仅七个非洲国家起草了国家AI战略，没有国家实施正式AI监管。非盟战略处于建立治理结构与动员资源的第一实施阶段。作者称可执行的AI治理机制尚未就位。

验证文献本身写了什么

• 伦理后续：Breuninger等指出还需研究操作与伦理方面，以确定系统在诊断流程中的位置。作者称这一建议在后续部署中并未被一致落实。
• 患者体验：作者称Bellemo等与Kazemzadeh等的验证及后续部署文件都没有处理患者体验，包括理解自动判定、行动前请求人工核验、得知判定如何做出及其局限。
• 直接面向患者：作者称加纳聊天机器人对部分患者可能是分诊的主要接触点，AI建议是其决定是否寻求面对面护理的主要依据。移动优先服务被写成城市与城郊增长快的接触点；本文未给出用户规模。

其他消融与分析

• 论文未做消融或参数分析，未报告查询次数、迭代预算或重复次数。
• 除第3.4节所引ROC AUC外，本文未报告CAD4TB的灵敏度、特异度或部署中的假阴性率。
• Bellemo等、Kazemzadeh等的具体性能数字，本文未报告。
• 加纳案例未报告运营商名称、产品名、推荐准确率，以及界面是否含披露控件的实测。
• 三项原则未被作者在机构中试行，无实施前后的测量。
• 论文未报告患者知情比例，也未报告披露语句的读写或语言测试结果。

作者指出的局限与后续方向

• 不是证据性结论：三项原则不是基于证据的结论，而是由问责、同意与可解释性文献综合、再对照已记录部署得出的理论假设（第6节）。
• 一手数据的定位：作者称缺少一手实证数据是贡献范围的有意特征，而不是缺口；原则是供未来实证检验的框架（第6节）。
• 患者理解：后续应调查该地区患者在多大程度上理解自主智能体正在为自己做决定（第6节）。
• 更多部署：后续应对照三项原则审计更多既有部署；第3.4节的案例被写成起点（第6节）。
• 披露与复核：后续应在不同读写与语言条件下测试披露工具，并考察资源约束下的卫生机构中人工复核路径是否可行（第6节）。
• 未覆盖的问题：三项原则并不回答该领域以后需要回答的每一个问题；作者称它们处理的是最直接的缺口，即无论患者事先是否知情，都有披露、寻求人工复核和可用解释的结构性保证（第7节）。

实验覆盖范围

• 分析材料是三个已记录部署：坦桑尼亚CAD4TB、赞比亚糖尿病视网膜病变与结核胸片筛查、加纳移动健康聊天机器人分诊（第3.4节）。
• 本文写出的性能数字是CAD4TB在坦桑尼亚两队列中的ROC AUC 0.84；视网膜与胸片只转述临床可接受、可与放射科医师的表现相当，无具体指标值（第3.4节）。
• 治理对照写到坦桑尼亚国家AI战略框架、赞比亚AI战略2024–2026、加纳国家AI战略2023–2033与AI Practitioners' Guide（第3.4节），以及截至2024年七国起草战略、没有国家实施正式AI监管、非盟战略2025–2026第一实施阶段（第2.3节）。
• 论文未报告患者知情比例、复核请求量、披露工具试验结果、评审与人工一致性、聊天机器人产品名与用户规模。
• 第5节把原则写成开发者、卫生机构与政策制定者的设计、采购和指引要求，未给出实施后测量。

作者把撒哈拉以南非洲电子健康里的自主诊断智能体写成治理问题，而不是新的诊断模型。要处理的是：系统分析患者数据并给出拟被执行的诊断或分诊，中间没有强制人工复核，患者又未必知道这一步由智能体完成。

• 做法：把同意、问责和解释文献对照三个已记录部署，收成三项最低原则。自主智能体要同时满足无实时临床输入的分析、可执行输出，以及输出与行动之间无强制复核。原则分别是按读写水平和主要语言披露智能体参与，把人工复核写成采购时就要核验的结构条件，以及按对象解释：临床侧包括数据来源、本地代表性验证和已知局限，患者侧是本地语言的通俗说明。
• 坦桑尼亚：所引两队列中，CAD4TB区分培养阳性结核与对照的ROC AUC为0.84。作者称系统可在无放射科医师、无网络的远端使用，患者未被告知，也无正式人工核验路径；假阴性关系个人治疗与社区传播，但本文未给假阴性率。
• 赞比亚：视网膜筛查被称达到临床可接受表现，胸片云端系统被称可与放射科医师的表现相当；本文没有这两项的具体指标。作者称验证文件未处理患者是否知情、是否同意、出错时有无追索。
• 加纳：聊天机器人可在无临床中介时收集症状并给出建议、风险分类或转诊。作者称界面对部分患者可能就是主要分诊点，且国家战略与从业者指南尚不可执行。
• 规则背景：截至2024年，所引文献称仅七个非洲国家起草了国家AI战略，且没有国家实施正式AI监管。作者的结论是，技术表现不能填补由披露、复核和解释缺失构成的问责缺口；正式立法未普遍就位时，开发者、机构采购和政策指引仍可采用这三项作最低标准。作者同时称，原则是待实证检验的假设，不是一手数据已经支持的结论。