Page 51 - 南京医科大学社科版
P. 51

第4期 总第123期                           南
                                                    南京医科大学学报（社会科学版）京医科大学学报（社会科学版）
                 2024年8月                      Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  · 365  ·
                                              Journal
                   2023 年以来，随着 ChatGPT 为代表的通用人工                  法静态式的“硬性治理”无法及时、准确、灵活地回
               智能在医疗领域的迅速崛起及其可能带来的伦理                             应医疗语境下人工智能算法黑箱的存在、人文精神
               风险，英国开始更新监管策略。在此背景下，2023                          的缺位、虚假内容的生成、自动化偏见所导致的人
               年第二季度，英国《BS30440：人工智能在医疗保健                        机交互“不信任”、决策“不可控”、安全性“不可靠”、
               中应用的验证框架》正式颁布，将原散见于各个法                            医疗资源“不公平”等伦理风险。相较之下，软法制
               律中的医疗人工智能监管整合成一个全面的框架，                            定的自主性、灵活性、开放性、多样性能够在前期利
               为了确保标准的多样性和包容性，该标准是由学术                            益相关方动态合作博弈中，不断试错和自我优化，
               界、政府机构、医疗机构、专业组织组成的专家委员                           提供“软性治理”，为安全、可靠、负责的医疗人工智
               会磋商形成的      ［44］ 。                                能开发和使用预先提供治理框架，为未来法律法规
                   综上所述，欧盟、美国、英国基本形成一种软硬                         制定时能够充分了解医疗人工智能技术前沿的实
               混治的医疗人工智能伦理治理格局。一方面，均在                            际经验和伦理风险奠定基础。
               初期通过提供非法定义务的软法在宏观上引导医                                 其二，法律规范的作用在于指引人们的行为。
               疗人工智能产业自律，督促企业自发制定标准规范                            当前，我国医疗人工智能伦理治理正处在初创阶
               自身行为，以便灵活、敏捷地回应医疗人工智能伦                            段，普遍存在法律不严、执法不力、审批不严、标准
               理风险；另一方面，为弥补软法治理强制力不足的                            不一、企业合规程度不够等问题，法律法规与医疗
               缺陷，各国开始将一些软法转化为硬法或直接颁布                            人工智能标准脱节，无法为医疗人工智能科技行为
               硬法提供具体规范，逐步转向更为成熟的“软法与                            提供规范指引作用。在法律规范指引缺位的情况
               硬法双轨并行、刚柔并济”的新型治理模式                  ［45］ 。       下，行业协会、社会组织、民间团体等非国家行为体
                                                                 制定的行业标准和技术标准，如《国家新一代人工
                  五、“硬法—软法”范式下医疗人工智能
                                                                 智能标准体系建设指南》《人工智能伦理治理标准
                           伦理治理之未来路径
                                                                 化指南》等作为一种软法，是相关硬法在鼓励“发挥
                  （一）“软硬混治”：医疗人工智能伦理法治体系                         行业协会、科学研究机构和学术团体”之下的利益
               的制度诉求                                             指引与矫正，不仅能够提供指引医疗卫生领域内的
                   虽然各国在政治立场、意识形态、利益分配等                          各机构、单位或从业人员从事医疗人工智能技术操
               方面均存在很大差异，但是就医疗人工智能伦理治                            作时需要遵循的行为规范或准则，还能够为行政管
               理的需求是一致的。面对具有伦理风险的医疗人                             理部门开展行业执法提供实证性标准。
               工智能，尚没有任何单一国家主体依靠强制力可单                                其三，软硬混治通过自律自治和他律强制相结
               独或共同包揽医疗人工智能伦理风险问题的解决，                            合的规制方式，能够不断调动公与私两个方面规范
               给医疗人工智能伦理风险治理留下了一定的空白                             医疗人工智能伦理风险的积极性。医疗人工智能
               与盲点，形成了不同程度上的“法治真空” 。而法                           作为一种“社会—技术”系统，要有一种多元化的治
                                                    ［46］
               律的缺位恰恰容易使无节制的裁量、有组织的利益                            理方式。一方面，行业协会、企业组织、社会组织、民
               以及混乱的公共意见掌握医疗人工智能伦理风险                             间团体等非国家行为体通过民主协商、达成共识形成
               规制的话语权       ［36］ 。这种影响的多样性使得医疗人                  自律公约或合规指南规范，促进医疗人工智能以合法
               工智能伦理风险治理格局更加复杂化。由此可见，                            合规与合乎道德的方式开发、使用，例如中国网络社
               传统“国家间立法”模式所注重的硬法一元主导下                            会组织于 2021 年联合发布的《互联网信息服务算法
               的刚性约束方式，已经无法单方面垄断治理医疗人                            自律公约》和《互联网行业从业人员职业道德准则》。
               工智能伦理风险这一全球难题，需要其他非国家行                            另一方面，硬法通过整合国家强制力保障软法协商博
               为体针对医疗人工智能应用的各个场景中产生的                             弈的有序性和公平性。软法硬法相互协调、相互配
               伦理风险，共同制定软法方案，补齐硬法治理的制                            合、相互促进，通过整合国家强制与社会自治两种资
               度短板。因此，“硬法—软法”范式下通过将软法自                           源，共同推进医疗人工智能伦理治理。
               治与硬法强制引导结合起来形成的软硬交错、刚柔                               （二）规范软法的生成机制，补齐软法正当性短板
               并济的二元法体系进化，能够不断填充医疗人工智                                从立法的权力来源看，各种非国家行为体制定
               能伦理风险治理的法律空白，更好地回应社会关切                            软法中存在不规范的现象，导致软法存在比较严重
               与需要。                                              的“正当性”缺失问题，严重阻碍了“硬法—软法”范
                   其一，相较于硬法的静态法，软法既可以是静                          式中的软法治理效能。因此，必须规范非国家行为
               态的法规范，也可以是动态的公共治理方式、治理                            体制定软法的程序以及软法的内容，补齐软法的正
               手段  ［47］ 。对于医疗人工智能伦理风险治理，神经网                      当性短板。
               络模型的发展极大地增强了机器学习能力，导致硬                                从软法制定程序上看，由于软法的制定是一种
   46   47   48   49   50   51   52   53   54   55   56