Page 71 - 南京医科大学社科版
P. 71

第3期 总第134期                           南京医科大学学报（社会科学版）京医科大学学报（社会科学版）                             ·
                                                    南
                 2026年6月                      Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  · 285
                                              Journal
               容必然随之更新，从“独立做出正确诊断”扩展为                            对应的传统产品类别进行管理，无需被“特殊关照”
              “审慎地使用智能工具并对算法输出进行实质性核                             或者拔高管理级别。反之，以“诊断辅助人工智能”
               验”。正是在此意义上，“审慎再判断义务”构成了                           为代表的第三类医疗器械，医务人员在采纳其判断
               医务人员注意义务在智能时代的具体化形态。                              时应履行更高的注意义务。
                   在此模式下，医务人员的角色正从独立的决策                              第三，数据输入的质量控制义务。人工智能诊
               者转变为人工智能的使用者，并对算法输出负有不                            断的可靠性高度依赖输入数据的质量。医务人员
               可转移的终审责任，医疗人工智能的结论必须经医                            必须确保输入系统的患者信息（如病历、影像等）完
               师审核确认后方可实施           ［30］ 。“审慎再判断义务”诞生            整、准确，这是获得有效输出结果的前提。此时，诊
               的逻辑必然性在于，在承认技术价值的同时，必须                            断辅助人工智能仅作为被动工具，接受并执行人类
               通过制度性安排确保医生作为“最终责任主体”的                            输入的指令，无法拒绝或修正。因而，医务人员负
               法律地位不被技术所架空。其核心并非简单重复                             有高度的注意义务，需对诊断辅助人工智能进行规
               人工智能的计算过程，而是要求医生以专业判断，                            范操控   ［30］ 。若输入的医疗数据本身存在不准确、不
               对人工智能的诊断建议进行法律意义上的审查与                             清晰、不全面等瑕疵，则难以生成高质量的机器判
               确认，从而使其转化为一个可归责于医生的“专业                            断，此时医务人员应谨慎采纳             ［14］ 。
               诊断”。本章将具体阐释这一义务的双重内涵。                                 （二）结果核验义务
                  （一）使用审慎义务                                          “结果核验义务”是“审慎再判断义务”的核心
                  “使用审慎义务”要求医生及医疗机构须像对                           环节，它要求医务人员对人工智能生成的诊断建议
               待任何高风险医疗设备一样，对所用人工智能系统                            进行主动、独立的审查，并做出最终决策。该义务
               的安全、有效运行承担责任            ［31］ 。                    的法理基础在于，法律追究的是医务人员提供专业
                   第一，运行保障义务。医务人员需熟悉所使用                          诊断服务的过错，而非单纯搬运人工智能结论的行
               人工智能系统的基本功能、工作方式及其数据库的                            为。人工智能的数据分析结果或判断，被认为与传
               构成与潜在偏差        ［31］ 。数据库的真实性与代表性尤                 统医疗中的验血、B 超检查结果具有同质性，仅为疾
               为关键，不具代表性的数据将导致输出结果脱离临                            病诊断提供参考，不改变医务人员作为诊疗核心与
               床实际。以 IBM 沃森系统为例，其早期因未使用真                         责任主体的地位       ［25］ 。
               实患者数据，而仅依赖纪念斯隆凯特琳（MSK）癌症                              该义务可具体化为两方面要求：其一是审查诊
               中心医生设计的少量“合成病例”，导致算法给出的                           断建议的医学依据是否充分，如是否遵循最新临床
               建议脱离实际诊疗需求。这凸显了数据源真实性                             指南、是否符合“当时医疗水平”；其二是结合患者
               与代表性的关键影响。因此，确保数据库合理有效                            具体情况进行个性化评估，如考虑其过敏史、基础
               是基本要求。此外，医务人员需对系统运行状态进                            疾病、并发症等，避免机械套用通用方案                   ［30］ 。医生
               行持续监督，包括及时安装更新、补丁及修复程序                            的诊疗行为需遵循合理医生标准，专业知识和谨慎
               等，以确保其处于正常工作状态。若自身能力不                             态度是不可放弃的法定要求，即使医务人员真诚依
               足，应将维护工作委托专业人士完成                ［31］ 。            赖“黑箱”算法，也不能免除自身责任                ［26］ 。这一规则
                   第二，基于风险分级的管理义务。医务人员的                          在监管层面亦有呼应。美国《联邦食品、药品和化
               注意义务程度应与所用人工智能工具的风险等级                             妆品法案》明确规定，获监管豁免的临床决策支持
               相匹配。根据《医疗器械监督管理条例》，医疗器械                           软件，必须确保医疗专业人员能独立审查建议依
               按照风险程度被分为低风险的第一类医疗器械、中                            据，不得诱导其主要依赖软件决策。该条款正是为
               度风险的第二类医疗器械、较高风险的第三类医疗                            了防范医生因盲目信任人工智能而放弃独立判断。
               器械。而根据《人工智能医用软件产品分类界定指                                但值得注意的是，人工智能系统的“黑箱性”使
               导原则》，人工智能医用软件和含人工智能软件组                            得医生无法深入审查其内部逻辑，但这并非免除核
               件的医疗器械的管理类别应结合产品的预期用途、                            验义务的理由，而是改变了义务的履行方式。医务
               算法成熟度等因素综合判定。若用于辅助决策，按                            人员应当尽可能地核验结果，而不能以表面数据进
               照第三类医疗器械管理；若用于非辅助决策，按照                            行直接判断，否则若因直接采纳人工智能建议而给
               第二类医疗器械管理。对于算法在医疗应用中成                             出错误诊断，造成患者损害，将根据情节承担民事
               熟度高的人工智能医用软件，其管理类别按照现行                            或刑事责任      ［25］ 。从实际操作层面看，应结合“结果
               的《医疗器械分类目录》和分类界定文件等执行。                            复验可能性”进行具体分析。例如对于明确标注特
               该原则体现了人工智能医疗监管以风险水平决定                             征的影像辅助诊断，医生可基于标注信息进行针对
               管理严格程度的核心逻辑。算法成熟度高的人工                             性复核；但对于系统可能存在的漏诊，要求医生完
               智能医用软件，将根据其实际的功能和成熟度找到                            全重复检视所有原始数据并不实际，合理的标准应
   66   67   68   69   70   71   72   73   74   75   76