Page 50 - 南京医科大学社科版
P. 50

南京医科大学学报（社会科学版）京医科大学学报（社会科学版）                 第4期 总第123期
                                                    南
              · 364  ·                       Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  2024年8月
                                             Journal
               法治理报告显示，截至 2020 年，全球范围内共有634                      了《人工智能医疗器械软件行动计划》。同年 7 月美
               个人工智能软法项目         ［38］ 。其中，美国是最具代表性的              国联邦问责署（GAO）正式制定了具有强制性约束
               国家（26%），欧洲、英国和国际联盟占 62%。从国际                       力的《人工智能问责框架》，迈出了美国联邦层面上
               层面上看，“硬法—软法”范式已然成为全球医疗人工                          的人工智能监管第一步。此后，美国联邦层面人工
               智能伦理治理的通行监管样态             ［39］ 。                  智能监管立法井喷式增长，仅去年一年里就提出了
                   1. 欧盟                                         181项人工智能相关的法案，并且通过了25项法案，
                   欧盟正处于医疗领域的人工智能革命边缘，如                          增长率高达 56.3%。2023 年 7 月，美国参议院提交
               何在人工智能创新发展和风险治理之间实现平衡，                            的《人工智能生物安全风险评估法案》指出，要将人
               是当下欧盟所面临的艰巨任务。从欧盟层面来看，                            工智能在医疗保健和医学方面的应用风险监管纳
               受制于立法从属原则，欧盟一直缺少在欧盟层面的                            入美国国家卫生战略；10 月，拜登政府签署发布《安
               医疗领域相关立法，缺乏专门针对医疗人工智能伦                            全、稳定、可信的人工智能》行政命令，该行政命令
               理风险治理的具体法律框架，只能通过《医疗器械                            要求对国家公共健康和安全构成严重风险的医疗
               条例》《通用数据保护条例》部分涵盖医疗人工智能                           人工智能系统进行模型训练时需通知联邦政府，而
               伦理风险的监管。因而，在人工智能伦理风险治理                            且必须分享安全测试结果和相关数据，以确保不会
               的初期，欧盟通常先采用专家建议、政策文件或伦理                           对公民生命和健康造成威胁。
               指南的方式进行“软”治理，例如《欧洲机器人技术民                              除了联邦政府以及各州政府颁布法令外，美国
               事法律规则》《欧盟人工智能》《可信赖的人工智能道                          还向学术协会、研究机构等第三方组织寻求合作，
               德准则》以及《走向卓越与信任——欧盟人工智能监                           通过组织层面“软治理”与系统层面的“硬监管”的
               管新路径》等。随着《欧洲人工智能培养方法》出台，                          耦合  ［40］ ，建立医疗人工智能系统伦理方针和伦理标
               欧盟开始从具有非强制约束力指导方针的软治理，转                           准，进而实现医疗人工智能系统的良法之治。
               向要求制定人工智能法案（AIA），尝试建立新的人工                             3. 英国
               智能产品和服务监管框架，通过对人工智能软治理的                               为维持自身在人工智能领域的领先地位，英国
               同时探索提供硬法规范支持，进而规制人工智能风                            采取的是与美国相似的监管策略，即相对宽松、非
               险。AIA的目标在于改善人工智能内部市场的运作，                          法定义务的原则性监管模式，倾向于依靠现有法律
               充分保护《欧盟基本权利宪章》所规定的基本权利和                           法规而不是正式的人工智能专项立法。随着人工
               价值观，以建立对人工智能信任的生态系统，使欧盟                           智能技术潜在风险的不断衍生，英国的监管模式也
               成为全球人工智能监管的领军者。                                   正在经历着由“软”到“硬”的变化过程，开始逐渐强
                   总的来说，欧盟的医疗人工智能监管一直采用                          调监管的重要性。
               的是较为包容和弹性的“软”监管模式，但从总体趋                               2019 年，为了回应人工智能在医疗领域应用所
               势上看，欧盟对于医疗人工智能的监管正由“软”逐                           引发的公众信任危机，英国信息专员办公室与英国
               渐走向“硬”。                                           国家卫生研究所举办了一系列“公民陪审团”，以获
                   2. 美国                                         取各个社会阶层的公众对于在医疗领域使用人工
                   美国作为人工智能的发源地，为鼓励人工智能                          智能的看法与意见         ［41］ ，此次会议证明了多元主体参
               创新和发展，维护自己在人工智能领域的领导地                             与协商的医疗人工智能监管体系的合理性；同年 5
               位，2019 年以前联邦政府都尽量避免制定具有强制                         月，英国国家卫生与临床优化研究所（NICE）和英国
               执行效力以及具体义务要求的硬法规范，而选择采                            国家医疗保健服务（NHS）联合发布了《数字健康技
               用软性的原则性倡议或规范，以避免妨碍人工智能                            术证据标准框架》，对人工智能在医疗领域的应用
               创新和增长的不必要的监管或非监管行动。但随                             制定了 10 项原则性规定         ［42］ ；2021 年 9 月，英国医疗
               着人工智能医疗器械软件在医疗领域日益广泛地                             和健康产品管理局（MHRA）制定了一项名为《作为
               应用，以及其逐渐产生的负面影响，美国的监管态                            医疗设备的软件和人工智能变更计划》的监管改革计
               度有所变化，逐步由大力推进医疗人工智能创新发                            划，旨在以指南的形式提供一个健全的监管框架，用
               展转向支持安全、可信、负责的医疗人工智能技术                            以加强对医疗设备中的人工智能（AI⁃MDs）不断增
               发展的监管策略。2019 年 4 月，美国食品与药品监                       长的算法偏见、算法黑箱风险的监管监督                    ［43］ ；2022
               督管理局（FDA）执行了名为《人工智能医疗器械软                          年 11 月，英国科学、创新和技术部（DSIT）下属的监
               件变更监管框架提议》的新监管方法，旨在通过制                            管地平线委员会（RHC）颁布了《医疗人工智能监管
               定相关变更控制规范，实现对人工智能医疗器械风                            规定》，该文件旨在提升患者、社会公众在医疗人工
               险的全生命周期监管。之后根据该提议，FDA 在接                          智能全生命周期监管中的参与程度，以改善监管
               受了利益相关者的建议后，于 2021 年 1 月再次发布                      方、制造方与使用方之间的信任关系。
   45   46   47   48   49   50   51   52   53   54   55