Page 67 - 南京医科大学社科版
P. 67

第3期 总第134期                           南京医科大学学报（社会科学版）京医科大学学报（社会科学版）                             ·
                                                    南
                 2026年6月                      Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  · 281
                                              Journal
               定“诊断辅助人工智能”在临床应用中的合法性基                            还原，导致决策缺乏可追溯性与可解释性 ；③动态
                                                                                                      ［5］
               础与法律定位？这一问题的核心在于，使用一个自                            进化性，即能够通过持续接受新数据优化参数、更
               主且不透明的“黑箱系统”辅助诊断，其行为本身面                           新方法乃至完成算法迭代 。
                                                                                        ［6］
               临是否具有正当性的质疑。相应地，它也将影响对                                上述技术特征引发了对临床应用的根本性质
               医务人员一开始就违反注意义务的判断。若其应                             疑：使用一个具有自主性、不透明性且持续演进的
               用本身的正当性存疑，则后续关于责任分配与过错                           “黑箱”系统辅助诊断，是否具备正当性？是否自始
               认定的讨论将失去根基。②在责任认定层面，当人                            构成对医务人员注意义务的违反？对此，有必要做
               工智能的诊断建议与基于传统诊疗方案发生冲突                             出回应。
               时，医务人员采纳或者拒绝该建议的行为，应当如                                （一）使用行为本身不具有违法性
               何运用“当时医疗水平”标准进行评价？算法的“黑                               “诊断辅助人工智能的使用是否构成注意义务违
               箱性”使得诊断辅助人工智能的决策过程难以被医                            反”这一质疑，其隐含前提在于将“工具的技术特征”
               务人员理解和验证，这是否意味着其注意义务的履                            直接等同于“使用行为的可归责性”。然而，这一推定
               行基础已然丧失？③在义务层面，当“人机协作”成                           既缺乏充分依据，也与损害责任的基本法理相悖。
               为新常态的背景下，医务人员的核心角色与注意义                                一方面，法律评价的焦点在于医务人员行为的
               务是否已发生改变？如何才能更好地平衡技术赋                             合理性，而非所使用工具的静态属性。医疗损害责
               能与患者安全？                                           任遵循过错原则，医务人员的“诊疗义务”是一种手
                   上述困境不仅关涉《中华人民共和国民法典》                          段债务，核心在于其是否提供符合当时医疗水平的
               相关条款在智能时代的规范生命力，更可能因责任                            专业服务，而非保证治愈的结果债务 。若仅因人
                                                                                                  ［7］
               边界模糊而同时抑制技术创新与损害患者权益。                             工智能具备技术先进性或者“黑箱”特性，便径直推
               因此，本文旨在系统回应这一时代性诘问。首先，                            定使用行为违法，实则混淆了工具评价与行为评
               梳理诊断辅助人工智能的技术特性，并据此论证诊                            价，不当地滑向以“工具的技术特征”进行归责的
               断辅助人工智能应用的合法性及界定其法律属性；                           “技术决定论”，实质上将架空过错责任原则，使医
               其次，探讨其对现有医疗损害责任规则的冲击与挑                            生责任异化为严格责任。
               战；最后，提出针对性的规则调适方案，以期为司法                               另一方面，医疗行为固有的不确定性与认知局
               实践与行业规范提供智识参考。                                    限，并非人工智能所独有。常规医疗干预和临床决
                                                                 策即使不涉及人工智能，对医疗专业人员自身而言
                   二、诊断辅助人工智能的合法性基础
                                                                                  ［8］
                                                                 也往往是不透明的 。这并不必然否定干预手段的
                                与法律定位
                                                                 合法应用。例如阿司匹林等药物，即使其作用机制尚
                   诊断辅助人工智能与传统医疗决策系统存在                           未被完全理解，仍被广泛应用并证实有效且可靠 ；
                                                                                                            ［8］
               根本区别。以斯坦福大学开发的 MYCIN 抗生素推                         电休克疗法虽对重度抑郁症有显著疗效，但其作用
               荐系统作为传统医疗决策系统的典型，其本质是                             机制至今未明 。医学对因果系统的理解仍处于初
                                                                             ［9］
              “预设规则的集合体”，通过专家编码的 200 多条规                         级阶段，有效干预的能力往往源于经验积累，且先
               则，进行逻辑推演形成临床结论及诊疗建议 。虽然                           于我们理解干预措施为何有效的能力                  ［10］ 。因此，在
                                                     ［1］
               其在预设的狭窄领域内可实现较高决策水平，但无法                           许多情况下，对诊断辅助人工智能系统未必需要强
                                     ［2］
               处理规则之外的复杂情形 。而当前基于机器学习                            求完全的可解释性，其经验层面的准确性已经足够
               的诊断辅助人工智能已实现从“规则驱动”到“数据                           支持临床应用。关键在于，使用者是否在认知该工
               驱动”的技术跃迁。以通用诊断模型 MedFound 为                       具有效性及局限性的前提下，以符合专业标准的方
               例，该系统通过整合 870 万份真实电子健康记录进                         式审慎运用。人工智能已在特定诊断任务中展现
               行训练，能够从数据中自主习得诊断模式，在多项                            出显著的临床价值，其速度与准确性可媲美甚至超
                                  ［3］
               专科诊断中表现优异 。其模型权重的开放共享，                            越人类医生。虽然此种统计学意义上的准确性，解
               使开发者能够针对区域化需求进行微调，显著提升                            决的仅是“技术上的可用性”与“临床上的有用性”
               技术的可扩展性 。                                         问题，并未自动回答“法律应如何负责地使用”这一
                             ［3］
                   这一从“规则驱动”向“数据驱动”的转向，赋予                        核心议题，但其临床价值本身已为合法性提供了重
               诊断辅助人工智能三大核心特性：①自主决策性，                            要支撑，无需以完全的可解释性作为绝对前提。
               即能够基于机器学习与大数据分析，独立处理患者                                （二）监管合规视角下的应用正当性
               信息并形成诊断建议；②算法黑箱性，其输入与输                                当前，诊断辅助人工智能通常被纳入医疗器械
               出间表现为统计“相关性”，而非临床可解释的生物                           监管框架进行监管，具体职责由药品和医疗器械部
                           ［4］
               学“因果关系” ，且其运作方式难以通过逆向工程                           门承担，例如我国的药品监督管理局（简称药监
   62   63   64   65   66   67   68   69   70   71   72