Page 47 - 南京医科大学社科版
P. 47

南
               第4期 总第123期                           南京医科大学学报（社会科学版）京医科大学学报（社会科学版）
                 2024年8月                      Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  · 361  ·
                                              Journal
               系的构建可能会从根本上改变医患关系，形成“医                            以训练的医疗数据以及算法大都来源于高收入国
               务人员—人工智能—患者”的不良医患关系。医患                            家，因而任何人工智能的回应都可能被已占据经
               之间直接交流的减少，使得医患关系变得疏远、冷                            济、技术或者某种资源的优势群体所优先占有                       ［25］ ，
               漠，进而影响医患之间感情的表达和传递，即所谓                            最终进一步造成医疗资源分配的不平等、不公平。
                           ［19］
               的“医疗公害” 。由此可见，医疗人工智能人文关                           值得担忧的是，强人工智能时代下，随着技术中心
               怀的缺失不仅造成了“人—技”问题的双向异化，还                           主义在医疗领域的排他场景不断深化                  ［26］ ，医疗人工
               引发了不可控的伦理风险。                                      智能装备对“残疾人的不友好”在以后可能会被认
                  （三）虚假信息的生成导致医疗人工智能安全                           为是“残疾人群体”的自身缺陷，而忽视“技术不合
               性“不可靠”                                            格”是导致相关医疗资源分配不均的真正原因。
                   已有研究发现，人工智能在 3%~27%的情况下                       2020 年《新英格兰医学杂志》就曾发文呼吁紧缺医
               可能会生成虚假信息（又称人工智能的“幻觉”） ，                          疗资源分配应遵守四项原则，包括最大化健康收益
                                                         ［20］
               且具有速度快、体量大和逼真度高等特征                   ［21］ 。人工     原则、平等对待生命原则、促进工具价值原则以及
               智能虚假信息生成的缺陷对于被规整之其他生活                             优待弱势群体原则         ［27］ 。因此，医疗人工智能数据采
               场景的应用似乎并无大碍，但是在医疗场景下，人                            集偏见与算法偏见的存在可能会成为更为隐蔽地
               工智能“幻觉”的缺陷却十分有害，它会客观上加大                           造成人类社会不平等的新方式，成为医疗人工智能
               临床医生和医护专业人员误诊误治的可能性，给患                            向前发展时极易滑向的伦理深渊。
               者生命和身体健康造成实质性危害。尤其是，医疗
                                                                      三、医疗人工智能伦理风险硬法治理
               人工智能的应用势必会加快患者和非医学专业人
                                                                             的现状及其客观局限
               士将人工智能用于医疗目的的趋势，在缺乏专业医
               学知识储备以及医务人员先验把关和提示的情况                                （一）医疗人工智能伦理风险硬法治理现状回顾
               下，患者和非医学专业人士自行贸然使用人工智能                                新兴科技的迭代进步及其应用进程的快速推
               生成的治疗建议进行自我诊断，很可能会带来诊断                            进使社会治理已经迈入人工智能时代，相关法律、
               误读或误用的风险。例如医疗人工智能沃森在训                             伦理、社会问题的研究氛围也相当活跃                   ［28］ 。目前，
               练时存在“多起治疗建议不安全、不正确的例子”，                           我国医疗人工智能相关的法律体系尚未完全建立
               甚至给一名癌症患者开出了可能导致“严重乃至致                            起来，尚缺乏统一的标准化的质量标准、准入机制、
               命性出血”的药物        ［22］ 。可见，当前的医疗人工智能                评估体系和保障体系，因而医疗人工智能伦理风险
               无法掌握医学知识和临床决策的全部复杂性，也无                            治理的硬法规范散见于各个法律法规之中，主要有
               法完全复制临床医生的经验和细致的判断，导致医                           《互联网诊疗监管细则（试行）》《互联网诊疗管理办
               疗人工智能安全性“不可靠”。尽管可以通过进一                            法（试行）》《中华人民共和国基本医疗卫生与健康
               步提示，诱导医疗人工智能识别出自身的错误，但                            促进法》《人工智能辅助诊断技术管理规范》《涉及
               必须审慎对待人工智能在医学应用时产生的“幻                             人的生命科学和医学研究伦理审查办法》《人工智
               觉”缺陷，否则很有可能导致医护人员出错，给患者                           能医用软件产品分类界定指导原则》《中华人民共
               带来人身损害。                                           和国数据安全法》《中华人民共和国民法典》等基础
                  （四）数据采集偏见与算法偏见导致医疗资源                           性、综合性、全局性的法律、行政法规和部门规章。
               分配“不公平”                                           上述法律法规对数据、算法等内容提出了相关规范
                   只有对技术的历史一无所知的人才会相信技                           性指导，共同规范了医疗人工智能设施的建设、运
               术是完全中立的，每种技术都有自己的议程，都是                            营和使用，构建了医疗人工智能伦理治理的大体
               等待被揭示的一种隐喻           ［23］ 。作为集成与整合强算              制度框架。但是客观地分析，医疗人工智能所具
               法、强算力、大数据三位一体的人工智能技术，其诱                           备的颠覆性技术能力及其带来的不信任、不可控、
               发社会公正风险主要源于数据采集偏见与算法偏                             不可靠、不公平等伦理风险，导致医疗人工智能应
               见两个方面。医疗人工智能的应用本应发挥缓和                             用场景下所存在的社会变量远超传统政府独占控
               医疗资源分配不平衡、消除社会公正风险的作用，                            制机制与硬法规范框架所构建的调整范围，不仅
               但实际情况是，由于数据采集偏见与算法偏见的存                            造成现行硬法规范所构建的医疗人工智能伦理治
               在，反而再现了“医疗歧视”，加剧了医疗鸿沟。宾                           理领域场意涵不清，边界不明，在保护效果上严重
               夕法尼亚州立大学一项研究表明，在与“残疾”相关                           不足，难以适应医疗人工智能的未来发展，而且造
               的描述或病例中，大模型会在 86%的时间将情绪得                          成硬法规范的引导、调整作用不强，无法涵盖医疗
               分从积极转换为消极          ［24］ ，如将残疾患者识别为“非              人工智能伦理治理所需。以医疗人工智能伦理风
               人类”“没有生命”的对象。此外，医疗人工智能用                           险所造成的医疗损害责任纠纷为例，依据《中华人
   42   43   44   45   46   47   48   49   50   51   52