医疗AI的伦理与实践平衡

一、医疗AI的四类核心伦理议题

1. 责任归属：AI辅助诊断出现漏诊误诊时责任在谁

"AI辅助、医生负责"——这一原则已成为国际共识，但在现实中却面临严峻的落地困境。

2024年，全球首例针对ChatGPT医疗误导的人身伤害诉讼引发广泛关注。美国55岁牧师温特斯因长期反复头晕咨询ChatGPT，AI建议其"久坐休养"，而实际病因系血栓引发，延误治疗导致其身心遭受重创，需长期接受康复治疗。原告方以过失侵权、非法行医等理由起诉OpenAI，索赔并要求紧急叫停ChatGPT Health医疗服务。此前，爱尔兰男子沃伦·蒂尔尼也因过度依赖ChatGPT延误食道癌诊断，成为国际医学界警示AI医疗风险的标志性案例。

中国现行法律体系同样面临"主体真空"的挑战。上海社会科学院副研究员赵付春指出，无论是《民法典》中的侵权责任篇，还是《医疗纠纷预防和处理条例》，其责任主体都清晰地指向"人"——医疗机构及其医务人员。而AI作为复杂的算法系统，不具备法律人格，无法成为独立的责任主体。当AI辅助诊断系统将恶性肿瘤误判为良性、导致患者错过最佳治疗时机时，传统归责原则面临三重失灵：

• 归责于医生？ 医生仅是AI的使用者而非开发者。若医生已尽到合理的注意义务、遵循了操作规范，却因算法的"黑箱"特性无法预知其错误，让其承担全部责任有失公允，更会打击临床应用AI的积极性。
• 归责于医院？ 医院作为AI的采购方和管理方，对技术细节知之甚少，要求其为算法的深层缺陷负责，超出了其专业管理能力范畴。
• 归责于开发者？ 开发者常以"产品说明书中已标注准确性非100%""医生拥有最终决策权"等理由抗辩。且要证明算法本身存在"缺陷"而非使用不当，需要复杂的技术鉴定，而目前国内缺乏权威的第三方AI医疗产品鉴定机构。

更深层的困难在于"黑箱"问题与证据认定。许多深度学习模型的决策过程不可解释，在医疗纠纷诉讼中，患者很难证明是AI算法出了错。Frontiers in Medicine 2025年发表的多维框架研究指出，AI在医疗诊断中的误诊可能对患者造成严重后果，而开发者、医疗机构和临床医生之间的责任界限至今模糊。

在目前的实践中，"AI辅助、医生负责"仍是通行原则——AI给出建议，医生做出决策并承担责任。但这要求医生具备足够的AI素养来评估系统输出的可靠性，也要求建立决策日志等可追溯机制，以在纠纷发生时还原事实。

2. 算法偏见：训练数据偏差导致的不公平

算法偏见是医疗AI领域最隐蔽、也最危险的伦理风险。 它不会像系统崩溃那样引人注目，却在无声中加剧着医疗不平等。

2025年波士顿儿童医院的研究发现，基于美国医保数据训练的AI诊断系统，对非裔孕妇的妊娠高血压误诊率是白人群体的2.3倍。同一研究还揭示，基于欧美白人男性数据训练的AI在儿科场景的误诊率高达83%，对黑人女性的误诊率高达50%。更令人担忧的是，这类系统倾向于对低收入群体推荐基础检查、对边缘群体开具不必要的心理评估，在算法层面固化甚至放大了社会偏见。

2025年发表于《European Heart Journal – Digital Health》的研究进一步证实，GPT-4o在诊断女性心血管症状时存在显著的性别偏见：在36%的受性别影响的案例中，GPT-4o更倾向于将女性的症状归因于焦虑或恐慌障碍，而非正确的心脏疾病。美国血液学会2025年年会发表的基于SEER数据库的急性髓系白血病（AML）研究也表明，尽管模型整体表现优异，但黑人患者和女性患者更容易被低估生存风险。

偏见的根源在于训练数据的代表性不足。当数据采集过度集中于特定人群、特定地区、特定医疗机构时，模型在面对"未见过的"人群时便会失灵。值得肯定的是，学界和业界已开始积极应对。西奈山伊坎医学院团队开发了AEquity工具，能够在AI模型训练前检测和纠正医疗数据集中的偏见。纽约市健康+医院团队则通过阈值调整（threshold adjustment）和拒绝选项分类（reject option classification）两种后处理方法，成功将目标组别的平等机会差异（EOD）控制在5个百分点以内，同时模型准确率下降不足10%。中国研究团队也提出了FairMed框架，通过对Llama3Med42模型进行公平性微调，显著降低了LLM输出在多个人口学群体间的偏见。

3. 知情同意：患者是否有权知道AI参与了诊疗

知情同意是现代医学伦理的基石，但在AI介入诊疗的背景下，这一原则正面临前所未有的挑战。

问题的核心在于：当AI参与了影像分析、辅助诊断甚至治疗方案推荐时，患者是否有权知道？答案在伦理上是肯定的，但在操作层面却困难重重。

首先，如何向患者解释"黑箱"？当医生自己都无法完全理解AI的决策逻辑时，如何用通俗易懂的语言告知患者？其次，告知到什么程度才算"充分"？是简单说明"我们使用了AI辅助工具"，还是需要披露算法的局限性、训练数据的来源、已知的不准确率？再次，过度告知是否会导致患者不必要的恐慌或对AI产生不信任，反而影响诊疗效果？

中国医院协会信息专业委员会于2026年7月发布的《医院应用医学人工智能专家共识》给出了明确指引：中高风险场景应用须通过含完整风险告知的电子知情同意书（弹窗确认）或纸质文书等形式取得患者知情同意。该共识建议医院修订现有知情同意书，在涉及使用AI辅助诊断或治疗的环节增加专门条款，用通俗易懂的语言向患者说明AI系统的名称、开发商、获批情况及其不确定性。

国际层面，欧盟《通用数据保护条例》（GDPR，2018）通常要求在处理健康数据时获得明确同意，美国《健康保险可携性和责任法案》（HIPAA，1996）则禁止在未经患者同意或知情的情况下披露个人健康信息。这两部法规为AI医疗的知情同意提供了法律基础，但面对AI这一新变量，仍需要更细化的执行标准。

4. 数据隐私：模型训练的数据合规问题

医疗数据是AI模型的"燃料"，但数据的使用必须在隐私保护与技术发展之间找到平衡。

医疗数据的敏感性远超一般个人信息。一份电子病历可能包含患者的姓名、身份证号、诊断记录、基因信息、用药历史等高度敏感数据。在AI模型训练过程中，这些数据需要被采集、清洗、标注、共享——每一个环节都可能成为隐私泄露的薄弱点。

欧盟GDPR限制个人数据向欧洲经济区（EEA）以外的传输，除非有充分的保障措施；中国《数据安全法》和《个人信息保护法》则对数据处理提出了严格要求。2024年，中国发布《人工智能安全治理框架》，系统分析了AI的内生与应用安全风险并提出技术应对和综合治理措施；2024年《卫生健康行业人工智能应用场景参考指引》则对医学人工智能应用场景进行了划分。

在实际操作中，医疗机构面临多重合规挑战。直接标识信息（如姓名、身份证号）必须脱敏或加密；间接标识信息（如邮编、就诊日期组合）也可能导致"重识别"风险。生成式AI工具（如ChatGPT、Gemini、Copilot）的引入更带来了新的风险——如果医护人员在不知情的情况下将患者信息输入未签署业务关联协议（BAA）的AI工具，即构成HIPAA违规。

《医院应用医学人工智能专家共识》明确要求：医学AI应用及其相关训练、推理和应用数据原则上应部署于医院完全控制的安全环境（如院内私有云、专属服务器或合规托管平台）；所有数据交互须采取加密措施，院内局域网可选用TLS、IPsec等安全协议，严禁明文传输敏感数据，院外云端数据交互必须采用全链路强加密方案。

二、监管框架

中国AI医疗器械按风险等级分类注册管理

中国对AI医疗器械实行基于风险的分级分类管理，将医疗器械按风险由低到高分为三类：第一类（低风险）实行备案管理，第二类（中风险）由省级药品监督管理部门审批注册，第三类（高风险）由NMPA直接审批注册。AI医疗器械通常被归类为第二类或第三类，具体取决于算法成熟度及其在临床决策中的角色——算法成熟度较低且用于辅助决策的AI产品被归为第三类，仅用于非决策支持任务的则归为第二类。

法规依据主要包括：《医疗器械监督管理条例》（2021年修订）、《人工智能医疗器械软件注册审查指导原则》（2022年）、《医疗器械软件注册审查指导原则》（2022年）等。2022年发布的《人工智能医疗器械注册审查指导原则》明确了AI医疗器械的注册审查要求，包括算法更新、数据集质控、泛化能力验证等核心技术环节。

NMPA在AI医疗器械审批上取得了长足进步。上述回顾性分析显示，截至2025年6月30日，中国共批准154款AI医疗器械，其中123款（79.9%）被归类为第三类（高风险），表明中国对AI医疗产品总体持审慎态度，许多产品被当作高风险产品接受最严格的审查。相比之下，美国FDA批准的AI/ML医疗器械大多通过510(k)路径作为第二类器械上市，欧洲仅有约1%的AI医疗器械被归为第三类。这一差异折射出不同监管体系对风险的不同评估取向。

从技术特征看，深度学习是中国AI医疗器械的主导算法，在154款产品中占143款（92.9%）；放射科是应用最集中的领域，占106款（68.8%）；CT是最主要的数据来源，占96款（62.3%），主要用于肺结节检测和心血管评估。临床试验是76.6%（118/154）产品的主要评价路径，第三类器械中这一比例高达94.3%（116/123），而第二类器械中67.7%（21/31）采用临床豁免路径。市场集中度也较为明显，前四大制造商占总批准数的38.3%，且在地理上聚集于北京、上海、深圳、杭州等创新枢纽。

2025年，国家药监局共批准创新医疗器械76个（同比增长17%），优先审批医疗器械25个（同比增长212.5%），获批产品覆盖人工智能、肿瘤放射治疗、生物医用材料等多个前沿领域。NMPA在回应全国人大建议时明确表示，坚持医疗器械全生命周期管理，结合产品风险和算法特点明确管理要求，对第二类、第三类医疗器械进行注册审批制度，确保安全、有效、质量可控方能获批上市。

《互联网诊疗监管细则》禁止处方自动生成

在互联网诊疗领域，中国监管层面对AI的介入持更为审慎的态度。2022年2月，国家卫生健康委和国家中医药局联合印发《互联网诊疗监管细则（试行）》，其第二十一条明确规定："处方应由接诊医师本人开具，严禁使用人工智能等自动生成处方。" 同时规定严禁在处方开具前向患者提供药品，严禁以商业目的进行统方，医务人员个人收入不得与药品收入挂钩。

这一规定为后续各地的细化政策提供了根本遵循。此后，多地陆续"亮红灯"，出台更细化的"禁AI处方"规定，从国家到地方层面构建了 prohibiting AI自动处方的完整监管链条。这一政策的逻辑起点在于：处方权是医疗执业的核心权力，涉及用药安全和患者生命健康，必须由具有执业资质的医师亲自行使，不可由算法替代。

大模型在医疗领域的监管新动向

2025年11月，国务院发布《关于促进和规范"人工智能+医疗卫生"应用发展的实施意见》，提出推动医疗卫生领域大模型规范备案，优化人工智能应用审核程序，加强对AI研发、审评、准入、应用等各环节监管，开展应用监测评估，建立大模型应用评测验证机制，从医疗质量安全、个人隐私和数据安全等方面开展系统评估。这是中国在国家层面对医疗大模型应用提出的最新系统性监管框架。

在临床试验和真实世界应用方面，2024至2025年间发表的多项研究显示，大语言模型在门诊沟通、心理健康支持、收件箱消息起草、临床数据提取等场景中已展现出提升运营效率和用户满意度、减轻工作负担的潜力，但同时也存在性能在不同数据分布间的波动性等挑战。Kung等人报告ChatGPT以超过通过线的成绩通过了美国执业医师资格考试（USMLE），表明LLM已具备与医学毕业生相当的医学知识。但这并不意味着LLM可以直接用于临床决策——通过考试与在真实临床环境中做出安全、可靠的诊断之间存在巨大鸿沟。

三、实践层面的平衡之道

在伦理约束与监管框架之下，医疗机构和从业者如何在日常实践中实现"平衡"？核心在于四个维度：人机协同、场景选择、持续监测迭代、多学科伦理审查。

1. 人机协同：让医生始终"在环"

"人在环路"（Human-in-the-Loop）是防止AI错误直接导致伤害的最有效防线。 《医院应用医学人工智能专家共识》明确提出：当医学人工智能输出与医生临床判断冲突时，医生拥有最终决策权。信息系统应强制要求医生从预设理由列表中选择或填写拒绝/采纳原因；高风险决策分歧（如手术方案等）应自动触发上级医师或多学科会诊复核机制。分歧数据经匿名化处理后自动记录，作为算法优化的基准数据。

赵付春建议，医院应制定严格的AI使用规范，规定在哪些环节必须由医生进行复核、确认和最终签字。例如：AI给出的"高风险"提示，必须由高年资医师进行二次阅片；AI生成的治疗方案建议，必须经过多学科团队讨论。针对AI的"黑箱"问题，医院应在技术层面要求开发商提供或自行建立"决策日志"系统，记录每一次AI调用的时间、输入的患者数据、AI给出的初步结论、置信度分数，以及最终医生的决策和修改理由。这份档案不仅是未来可能发生纠纷时的关键证据，更是医院内部进行质量控制和持续改进的宝贵数据资产。

2. 场景选择：基于风险的分级管控

并非所有医疗场景都适合引入AI，也并非所有AI应用都承担相同的风险。 《医院应用医学人工智能专家共识》构建了"场景风险等级×技术成熟度"的动态管控体系，将应用场景分为高、中、低三类风险：

• 高风险场景： 直接介入诊断、治疗决策、侵入性操作或危重症干预等核心医疗行为，输出偏差可致患者严重健康损害。在试点应用阶段须取得NMPA核发的医疗器械注册证，完成院内部署评估，临床应用需取得患者知情同意，建立"专人逐例审核+强制人工确认"双重保障。规模推广阶段须建立全生命周期动态风险监测与阻断机制，出现重大安全事件时启动系统退市流程。
• 中风险场景： 辅助一般临床决策、慢病管理或处理敏感数据，输出偏差可致效率下降或失误，但可经人工复核纠偏。需实施适度审慎监管，建议开展单/多中心真实世界验证，评估人机协同、模型稳定性、工作流适配度。
• 低风险场景： 与核心诊疗弱相关的辅助服务，处理非敏感数据，风险可控。科室备案后即可开展，监管重心为基础网络安全、高可用性及用户体验持续改善。

此外，医院还应实施差异化准入管理：对于已获NMPA医疗器械注册证且适应证明确者，核验其本地化适配性，简化前期测评，但中高风险产品仍需开展院内评估（包括本地化数据分布验证、工作流适配性）；对于未获NMPA医疗器械注册证者，原则上不得用于临床诊疗决策。

3. 持续监测迭代：从"重审批"走向"全生命周期"

传统医疗设备审批侧重"上市前"安全性和有效性审查，但AI产品的特殊性在于其性能会随时间和数据分布变化而"漂移"。 这一"重审批、轻运维"的监管模式已无法适应AI的特点。

《医院应用医学人工智能专家共识》要求医院构建动态监测评估体系，监测技术应用过程与结果指标，包括诊断准确率、模型输出与金标准的一致性、临床决策采纳率、目标疾病的关键疗效指标、不良事件发生率、人机协同效率等。应用须部署"系统阻断机制"：当应用发生严重偏差、输出或接口异常危及核心业务流程时，授权人员可一键阻断，强制人工接管。

在模型更新机制方面，重大更新（涉及模型核心架构替换、训练数据发生根本性变化、性能关键指标变动超过预设阈值如±5%）须根据风险等级重新开展技术评估、伦理审查与真实世界验证；增量学习、参数微调或修复性更新可经医院人工智能治理委员会授权工作组简易审核后部署，加强后续监测。在质量管理工具上，共识推荐运用计划-执行-检查-处理（PDCA）循环、失效模式和影响分析（FMEA）、品管圈（QCC）等手段持续改进。

4. 多学科伦理审查：从单一审查走向分层治理

AI医疗的伦理审查不能仅靠伦理委员会"一关了之"，而需要构建分层的、多学科参与的治理体系。 《医院应用医学人工智能专家共识》建议医院成立人工智能治理委员会，由医学、管理学、公共卫生、法学、伦理学、计算机科学等多领域专家组成，下设技术评估组、伦理与合规组、应用管理组、监测改进组。

共识要求建立分层伦理审查机制，依据场景风险分级不同设置免除审查、快速审查、会议审查等路径。审查内容包括：算法、模型、技术架构设计文档、数据源、可解释性机制、可追溯日志、风险监测预警等。特别强调公平性审查——审查训练数据是否覆盖目标人群多样性（包括地域、年龄、性别、种族等），评估数据不平衡或标签偏差导致的模型性能偏移。

在采购合同层面，赵付春建议医院与技术开发者签订权责清晰的采购合同，核心条款应包括：透明度条款（要求提供训练数据来源、算法基本原理、预期使用场景和禁忌症）、责任划分条款（明确损害源于产品设计缺陷还是操作不当）、保障条款（要求开发者购买"AI医疗产品责任险"，提供持续售后监测服务）。

四、面向未来的三个判断

判断一：大模型将重塑医患关系

通用大语言模型正在突破传统医疗AI"单点工具"的定位，向"全能助手"演进，这将从根本上改变医患互动模式。

传统的医疗AI多为垂直领域的专用工具——肺结节检测软件只看CT影像，心电图分析系统只读电生理信号。但ChatGPT、GPT-4等通用大模型已展现出跨模态的综合能力：既能分析影像、解读化验报告，又能起草临床笔记、回答患者咨询，甚至通过美国执业医师资格考试。2024至2025年的系统性综述显示，LLM在门诊沟通、心理健康支持、收件箱消息起草、临床数据提取等场景中已显著提升了运营效率和用户满意度。

这意味着，患者未来获取医疗信息的渠道将更加多元。患者可能先向AI咨询症状，再带着AI的建议去看医生——就像温特斯案和蒂尔尼案中发生的那样。这既可能提升患者的健康素养和就诊效率，也可能导致患者对AI建议的过度依赖、削弱对专业医生的信任。医患关系将从传统的"医生-患者"二元结构，演变为"医生-患者-AI"三元结构，三方之间的信任博弈将成为新的伦理焦点。

但风险同样不容忽视。前述《European Heart Journal – Digital Health》的研究已经证明，GPT-4o在诊断女性心血管症状时会强化历史上的性别偏见。如果患者直接依据存在偏见的AI建议做出健康决策，后果不堪设想。因此，中国《互联网诊疗监管细则》严禁AI自动生成处方的规定，实际上为大模型在处方决策场景划定了不可逾越的红线，而2025年国务院《实施意见》进一步要求建立大模型应用评测验证机制。

判断二：可解释性将成为竞争壁垒

在医疗这一高风险领域，"能用"远远不够，"能解释"才是核心竞争力。 可解释性（Explainability）正从学术议题走向商业竞争的前沿阵地。

对于监管者而言，可解释性是审批的前提——如果无法解释AI如何得出结论，就无法评估其安全性。对于医生而言，可解释性是信任的基础——医生不会采纳一个自己无法理解的诊断建议，尤其在面对疑难病例时。对于患者而言，可解释性是知情同意的条件——只有理解了AI的推理逻辑，才能做出知情的医疗决策。对于司法而言，可解释性是追责的依据——没有透明的决策日志，法庭无法对AI行为进行客观审查。

《医院应用医学人工智能专家共识》明确将"可解释性机制"列为应用安全审查的核心内容之一，要求"清晰呈现决策逻辑或影响因素"。国际层面，欧盟《人工智能法案》（2024/1689）将医疗AI纳入高风险类别，要求上市前完成风险评估和符合性评审，包括数据质量、算法透明度、临床适应性证明等。FUTURE-AI国际联盟提出公平性、普适性、可追溯性原则，TRIPOD-AI、CLAIM和CONSORT-AI等规范为AI医疗研究提供了标准化指引。

可以预见，未来医疗AI市场的竞争不仅是"准确率"的竞争，更是"可解释性"的竞争。那些能够提供透明决策路径、可追溯推理链条、可审计算法逻辑的AI产品，将在监管审批、医院采购、医生使用和患者信任上获得显著优势。中国行业标准YY/T 1833.2和YY/T 1833.3已开始规范数据集质量和数据标注流程，未来在算法可解释性方面预计将有更细化的标准出台。

判断三：伦理能力将成为组织能力

医疗AI的伦理治理不是一份文件、一个委员会就能完成的，它需要内化为医疗机构和技术公司的组织能力。

这意味着伦理不能停留在"事后审查"的层面，而必须贯穿于"设计-研发-部署-监测-迭代"的全生命周期。在产品设计阶段就要考虑公平性，在数据采集阶段就要保障多样性，在模型训练阶段就要建立可解释性机制，在部署阶段就要落实知情同意，在运行阶段就要持续监测偏差与漂移，在迭代阶段就要重新评估安全性和有效性。

《医院应用医学人工智能专家共识》构建的"场景风险等级×技术成熟度"动态管控体系，正是将伦理能力制度化的尝试。赵付春提出的"四步治理"——内部风控（医疗机构成为"智慧的守门人"）、合作博弈（通过合同明确责任边界）、知情同意（构建医患信任基石）、安全优先（将安全置于技术之上）——也为医疗机构提供了可操作的框架。

在政策层面，未来仍需推动多项制度创新：加快AI医疗专项立法研究，明确AI法律地位和各方主体责任划分；构建"审批-监管-再评价"的全链条管理体系，建立上市后主动监测和定期再评价制度；设立国家级AI医疗技术鉴定与仲裁中心，为司法审判和纠纷调解提供专业支撑；推动"医疗责任险"与"AI产品责任险"的协同创新，开发适应AI医疗特点的新型保险产品。

从更宏观的视角看，世界卫生组织指出43个欧洲国家面临AI医疗法律责任不明的问题，若缺乏有效监管框架，AI将深化而非缓解全球医疗不平等。中国的监管实践——从风险分级注册到禁AI处方，从全生命周期管理到大模型备案——正在为全球AI医疗治理贡献"中国方案"。

结语

医疗AI的伦理与实践平衡，不是一道有标准答案的选择题，而是一场持续的探索。在效率与安全之间、在创新与审慎之间、在技术进步与人文关怀之间，没有一劳永逸的最优解，只有不断校准的动态平衡。

截至2025年6月，中国154款AI医疗器械获批上市、76个创新医疗器械在2025年获批——技术的车轮不会停转。但正如医学的古老誓言所昭示的，"首先，不伤害"（Primum non nocere）。在AI加速融入医疗的进程中，让这一古老的智慧照亮算法的黑箱，让伦理的约束成为创新的护栏而非枷锁，是整个行业的共同使命。

文献引用附录

• 世界卫生组织（WHO）：《医疗健康领域人工智能伦理与治理指南》
• 美国食品药品监督管理局（FDA）：AI/ML医疗器械审批框架
• 欧盟：《人工智能法案》
• 中国国家药监局：人工智能医疗器械审评要点
• 中华医学会：AI辅助诊断临床应用研究