Page 48 - 南京医科大学社科版
P. 48

南
                                                    南京医科大学学报（社会科学版）京医科大学学报（社会科学版）                 第4期 总第123期
              · 362  ·                       Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  2024年8月
                                             Journal
               民共和国民法典》第 1218 条规定，“患者在诊疗活                        理治理难题，要么予以规避或否认医疗人工智能的
               动中受到损害，医疗机构或者其医务人员有过错的，                           不确定性伦理风险，要么在承认医疗人工智能的不
               由医疗机构承担赔偿责任”，但是根据第 1221 条规                        确定伦理风险存在的同时却仍诉诸科学理性以寻
               定，我国判断医务人员诊疗过失的基本标准是“当                            求确定性知识，由此产生“不确定性悖论”，导致部
               时医疗水平”标准，即以实施诊疗活动之时的医疗                            分硬法规范束之高阁，甚至“失效”。硬法规范这种
               水准确定的诊疗义务为判断标准                   ［29］ 。一方面，       单纯“向后看”确认事实变化的前提预设，无法为未
               2020 年最高法出台的《最高人民法院关于审理医                          来医疗人工智能伦理治理提供规范指引，导致“公
               疗损害责任纠纷案件适用法律若干问题的解释》                             地悲剧”现象频发。但需要强调的是，尽管硬法规
               第 16 条明确规定，“对医疗机构或者其医务人员的                         范缺憾使得其治理医疗人工智能的不确定性伦理
               过错，应当依据法律、行政法规、规章以及其他有                            风险存在一定限制，但这并不必然意味着硬法规范
               关诊疗规范进行认定”（以下简称“诊疗规范标                             对医疗人工智能相关伦理风险的规制是不必要
               准”）；另一方面，无论是“当时医疗水平标准”抑或                          的。事实上，随着人工智能技术的发展，相关伦理
              “诊疗规范标准”指向的都是安全性和有效性已经                             问题将会逐渐从不确定性变得越来越确定，硬法的
               得到确立的、较为普及的疗法，并不能涵盖那些刚                            规范功能也会随之上升。
               起步的、有效性和安全性尚未确立的、创新型的甚                                2. 缺乏回应性无法应对医疗人工智能技术伦
               至是“试验性”的疗法           ［30］ ，如医疗人工智能的应              理嬗变之现实
               用。如此一来，医疗场景下与医疗人工智能伦理                                 在医疗保健领域，新兴技术的发展速度、传播
               风险相关的医疗损害责任纠纷问题将会变得极为                             范围和复杂程度都远超以往，已表现出深度数智化
               复杂，不可避免地导致“责任空场”，造成传统硬法                           的发展趋势。从宏观上看，医疗人工智能的广泛应
               规范所制定的责任形式难以套用到医疗人工智能                             用引起了诊断、治疗过程时空概念的变化，即人机
               的场景中来。                                            协作诊疗模式改变了传统医疗的诊治活动场景。
                  （二）医疗人工智能伦理风险硬法治理的客观                           医疗场景时空变化的剧烈与迅速对传统社会伦理、
               局限                                                道德、观念的挑战是全方位的，使得以硬法规范为
                   1. 不确定性伦理风险打破了硬法规制的前提                         主干的传统法律科技伦理治理规则面对技术伦理
               预设                                                嬗变之现实有着前所未有的需求性和紧张性。传
                   不确定性揭示的是世界的复杂性和多样性，而                          统规范主义模式下，社会和法律制度的变迁受控于
               技术作为人造的复杂系统更会增加不确定性。有                             法律实施的结果，而医疗人工智能伦理治理的制度
               学者指出，机器学习技术的运作“似乎杜绝了所有                            需求显然超越了当下法律规则的制度供给，加剧了医
               形态的确定性” 。从风险的视角看，基于多模态                            疗人工智能伦理治理的“步调难题”（pacing prob⁃
                             ［31］
               大语言模型的医疗人工智能所具备的不信任、不可                            lem）。硬法规范治理医疗人工智能伦理风险出现
               控、不可靠、不公平等风险特征，使其不仅在“输入                          “步调难题”主要源于两个方面：一是立法的高成本
               —输出”的过程中存在着人类无法窥探的“隐层”，                           和低效率；二是硬法监管惯性思维的存在。首先，
               即算法黑箱的存在，而且输入的预训练数据与输出                            为维护法律自身的权威、稳定、连续与体系化，法律
               的信息还引发了数据歧视、算法偏见、虚假信息生                            制定和修改大都是由国家正式立法机关经过提案、
               成等风险，导致其产生的伦理问题也具有极大的不                            审议、表决、公布等程序通过，并且前期会配套如过
               确定性和风险性。在风险社会中，对于医疗人工智                            滤机制、顺序机制、立法调研机制等运作机制来保
               能崛起所带来的不确定性伦理风险及其引发的法                             证立法的科学性和民主性，等到相关法律颁布，人
               律挑战的事实变化，硬法规范所构建的治理框架却                            工智能技术可能已经完成了数次迭代改进。以
               依旧采取“假定、处理、制裁”模式，致力于通过明确                          ChatGPT 为例，从 GPT3.5 到 GPT4.0 再到 Sora，才不
               清晰的语言设定一套具体的前提预设，要求相关主                            过仅仅经过了 1 年时间，因而两者存在无法适配的
               体为或不为某种行为，并赋予一种具体后果的法                             难题。相较于硬法立法的高成本和低效率，软法的
               令，试图通过预设的制度框架、强制性规范以及“命                           特点则是非正式性         ［32］ ，因而其能够快速对技术变化
               令—控制”规制模式以调整医疗人工智能的不确定                            进行回应，实现对医疗人工智能伦理风险更加敏
               性伦理风险。然而实际情况是，在风险的不确定性                            捷、灵活的治理。另外，行政监管部门为精准适用
               领域，硬法规范有时不可避免地存在“立法僵滞”和                           法律，对相关医疗人工智能伦理问题的治理较为
              “立法空白”的缺陷，导致以硬法规范为主干的部门                           “死板”，存在惯性思维，这种以“不变”应“万变”的
               法科技法律伦理规则面对医疗人工智能不同治理                             形式法治面对急剧变化的医疗人工智能伦理问题
               主体以及应用的目标、诉求与场景差异所造成的伦                            总是相互掣肘、难以两全。
   43   44   45   46   47   48   49   50   51   52   53