Page 46 - 南京医科大学社科版
P. 46

南                                             第4期 总第123期
                                                    南京医科大学学报（社会科学版）京医科大学学报（社会科学版）
              · 360  ·                       Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  2024年8月
                                             Journal
                     ［6］
               展方向 ，“以制适技”的法治范式规制理念和路径                           真实性、完整性和准确性，并对其进行合理解释。
               开始突出 。但是，风险社会的逻辑背景下现代性                            然而，算法黑箱致使医疗人工智能临床诊断与决
                       ［7］
                                  ［8］
               导入了新的风险参量 ，因而医疗人工智能伦理治                            策过程缺乏透明性，使得医师受制于专业知识壁
               理的法治体系需要探求新的伦理制度补给。一方                             垒以及专属所有权          ［12］ ，无法就医疗人工智能临床
               面，以传统硬法规范为主干的法律系统面对医疗语                            诊断和决策过程中的原理和机制向患者履行告知
               境下人机交互不信任、不可靠、不可控和不公平等                            义务，更做不到对可能产生的错误预测履行再判断
               风险特征的医疗人工智能伦理，存在“一立法就落                            义务。
               后”的常规误区与人工智能技术特性及硬法规范差                                可靠性和透明度是医患关系中建立信任的关
               异性的多重矛盾。另一方面，以命令控制型规制为                            键，而医疗人工智能的不透明性可能会破坏这种具
               主的传统政府治理，遵循的是对抗、威慑和法律服                            有天然脆弱性的医患信任关系               ［13］ 。从本质上看，人
               从的制度逻辑，使得以政府为主导的监管模式在应                            机交互语境下的医疗人工智能应用其实质是医患
               对以信任关系为存续纽带的医患关系时容易陷入                             之间的信任。面对人体机理的复杂本质，医疗人工
               两难境地。                                             智能技术的复杂性和算法的不透明性使其应用饱
                   综上所述，治理视角下医疗人工智能伦理治理                          受质疑   ［14］ 。出于认知的局限，当患者难以理解人工
               需要兼顾法律控制、开放自愿、协商行政、公众参                            智能临床诊断和决策的原理和机制时，并不会将临床
               与。因此，本文尝试通过“硬法—软法”范式的运行                           诊断和决策的错误归因于人工智能技术，而是转嫁给
               机理和作用方式，为医疗人工智能伦理危机治理逻                            人为因素，即使用医疗人工智能的医师，这不可避免
               辑提供一种新的框架，不断引导技术向善，发展安                            地会导致患者与医师之间面临信任崩塌的风险。由
               全、可信、负责的医疗人工智能伦理。                                 此可见，医疗人工智能算法的黑箱性质在医患之间
                                                                 制造着鸿沟，这道鸿沟将在彼此之间持续不断地制
                   二、风险审视：医疗人工智能伦理风险
                                                                 造警惕、矛盾和不信任。
                                的诱发机制
                                                                    （二）人文精神的缺位导致医疗人工智能决策
                   技术不仅是推动人类步入风险社会的动因，也                          存在“不可控”
                                    ［9］
               是风险社会的主要表征 。风险社会下，医疗人工                                医学正在回归人类，回归社会、回归人文发
               智能在医疗和护理教育、科学研究与药物开发、疾                            展 ［15］ 。正如先贤所言“医乃仁术”，“术”与“仁”相伴
               病诊断和临床保健等医疗和卫生保健领域实践应                             相生。自然语言处理技术（natural language process⁃
               用过程中的作用日益凸显，同时医疗人工智能亦存                            ing，NLP）作为人工智能技术的一项最重要的底层
               在违背既定医学伦理规范的僭越风险，不断增加医                            技术，其通过整合与集成人类输入提示、人类反
               疗人工智能伦理规制的复杂性，形成了多种挑战。                            馈强化学习以及基于思维链的应用推理等多项
                  （一）算法黑箱的存在导致人机交互的“不信任”                         技术  ［16］ ，不断提升对人类情感的识别、理解、表达和
                   从工具属性上看，随着医疗人工智能技术的迭                          生成功能的模拟。该项技术对于医疗人工智能辅
               代发展，机器学习等人工智能算法可以通过模拟临                            助医师作出临床诊断至关重要。不仅如此，NLP 还
               床决策者的认知过程，辅助临床医师进行诊断和决                            能模仿医师与患者之间的交流方式，从而给人工智
               策，及时做出疾病预警与检测、防控救治以及临床                            能算法注入类似人类“情感”的品质，使其生成和提
               诊疗，从而提高临床医师诊断效率和准确度，例如                            供的内容看似和人类一样，并据此给予患者更拟人
               人工智能在放射医学和医学影像、结核病和肿瘤学                            化的情感疏导和支持，实现对患者疾痛及精神负担
               等领域的辅助诊断。虽然医疗人工智能的应用可                             的“同理共情”。从这个角度看，“既有理智又有情
               以提高疾病诊断和临床决策的客观性，确保临床诊                            感”的人工智能技术似乎符合人性的需求，实现了
               断与决策结果的正确性、疾病治疗与预防效果的有                            对个体生命尊严与价值的尊重。然而，正如世卫组
               效性  ［10］ ，对提高患者的健康水平和生命质量起到积                      织《卫生领域人工智能的伦理与治理》指南所述，人
               极作用，但也不可避免地造成医师对医疗人工智能                            工智能会带来重大风险，可能会危及个人尊严。暂
               的依赖程度增加，导致医师的主体性和自由裁量权                            且不论人工智能情感技术还停留在鹦鹉学舌的功
               可能面临被侵蚀的风险           ［11］ ，进而为算法权力的隐形             能模仿阶段，相较于人类真实情感的自然生发，这
               扩张提供了可操作空间。算法权力的扩张意味着                             种基于机器学习与训练、情感数据量化与分析的
               原本辅助医师作出临床决策的人工智能逐渐成长                            “虚情假意”往往缺少人文关怀               ［17］ ，可能带来负面影
               为影响医师临床决策、取代医师临床决策的一种权                            响，存在“情感操纵”的可能性。如 2023 年 3 月，一
               力。这种医师对自身专属权力的让渡，要求医师保                            名比利时焦虑症患者同一款名为 ELIZA 的聊天机
               证医疗人工智能所作出的临床诊断与决策结果的                             器人进行数周的对话后自杀身亡                ［18］ 。此外，人机关
   41   42   43   44   45   46   47   48   49   50   51