Page 29 - 南京医科大学社会科学版
P. 29

南京医科大学学报（社会科学版）京医科大学学报（社会科学版）
               第5期 总第136期                           南                                                         ·
                 2026年10月                     Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  · 473
                                              Journal
               救，稳定患者心态。此外，应针对两类模型建立差                            涉及药物建议、危机干预等高风险内容自动弹出专
               异化的幻觉防控标准。对通用大语言模型，应要求                            业求助指引，引导用户将人工智能输出作为参考而
               其在精神卫生咨询场景中强制启用精神医学知识                             非决策依据。
               库校验模块，对涉及诊断、用药、危机干预等高风险                               （四）健全行业伦理准则，构建多元协同监管体系
               内容实施双重验证；对专用大语言模型，则应强制                                系统观念是马克思主义认识论和方法论的重
               要求开发方公开临床验证数据，定期接受权威精神                            要范畴。随着大语言模型的迭代发展，其所产生的
               医学机构的专项评估，并对超出训练分布的边缘案                            伦理风险日益激增，其独特的算法黑箱和复杂的生
               例设置强制人工介入机制。                                      成机制决定了不能只针对表面问题单独处理，而应
                  （三）锚定人本价值立场，遏制技术家长主义扩张                         当以系统观念统筹应对。当前应当充分立足于精
                   在医疗决策中，家长主义选择性忽略患者的知                          神卫生服务的特殊性和人工智能的复杂性，健全行
               情同意权，消解医患关系的信任基础，引发信任危                            业伦理准则，统筹政府、行业、社会等多元主体力
               机，这一点在大语言模型中也不例外。人工智能技                            量，构建全方位多层次的监管体系。
               术始终只是辅助心理服务的工具与载体，而非主导                                其一，加快制定大语言模型在精神卫生咨询中
               个体心理判断、干预个人精神选择的主体。因此，                            的伦理规范与法律准则。结合《中华人民共和国精
               应当借鉴医疗家长主义的改进方式，坚持以尊重患                            神卫生法》《中华人民共和国个人信息保护法》《中
               者自主权为基础，构建知情同意的价值立场，使大                            华人民共和国数据安全法》等现行法律法规，以及
               语言模型更好地应用于精神卫生咨询。                                 2026 年颁布的《办法》，明确智能精神健康服务的基
                   其一，坚持尊重与理解的基本原则，以人为                           本底线，规范应用场景，禁止大语言模型应用于重
               本。应当明确大语言模型在精神卫生咨询中的功                             度精神疾病诊断、处方开具等高风险诊疗服务。围
               能定位，要求开发团队在产品中清晰标注人工智能                            绕模型训练、内容生成、使用效果等关键环节，确立
               的辅助定位，明晰智能回答与专业精神科医师咨询                            以人为本、隐私为先、客观中立、风险防控等基本伦
               的区分边界，避免患者过度依赖人工智能。大语言                            理准则，统一行业标准。《办法》明确将可能在生命
               模型在咨询过程中应当保持中立，充分考虑患者的                            健康等领域带来伦理风险的活动纳入审查范围，针
               家庭背景与个性特征，避免刻板评判与片面引导。                            对精神卫生这一高度敏感场景，相关模型的研发与
                   其二，构建人机共享决策制定模型。技术家长                          应用活动应当严格遵循《办法》规定的一般程序或
               主义的根本问题在于决策权力的单向集中，算法独                            专家复核程序，建立常态化的科技伦理审查机制；
               自掌控问题判断、方案建议与情绪引导的全过程，                            同时，可结合《办法》第二十六条，协调算法推荐备
               忽视了患者的参与和选择空间。大语言模型应当                             案与伦理审查的登记对接，在降低企业合规成本的
               根据患者情况客观分析存在的问题，尽可能提供多                            同时，确保专用大语言模型在精神卫生领域的研发
               种治疗方案并标注相应风险，由患者自主选择适合                            部署经历科学、敏捷的伦理评估。其二，明确主体
               自身的路径。这种模式既保障了技术的专业性，又                            监管责任，形成协同治理合力。在政府层面发挥统
               给予了患者自主的空间。系统中需嵌入使用频次                             筹规划作用，完善审批准入机制，优化日常监管与
               与时长预警机制，随着对治疗效果的持续评估随时                            违法处罚；在行业协会层面牵头制定自律公约，加
               提出终止建议，防止逐利驱动下的诱导性依赖，保                            强从业人员与开发企业的伦理教育，强化自我约
               护来访者构建真实社会支持网络的能力。                                束；在公众层面发挥社会监督作用，畅通举报投诉
                   其三，强化使用者教育，提升用户数字健康素                          通道，鼓励民众参与模型建设。其三，建立伦理审
               养。技术家长主义滋生的根源之一在于用户与模                             查与动态追责专业咨询委员会。组建由精神医学
               型之间客观存在的认知落差。因此，规制路径不应                            专家、心理学家、法学学者、人工智能技术人员、伦
               止步于技术端与制度端的约束，还须向使用者端延                            理学者等综合主体参与的伦理审查委员会。对于
               伸，通过系统性教育干预缩小认知鸿沟。依托学校                            大语言模型在精神卫生咨询应用中出现的技术迭
               教育、社区科普、线上平台等多元渠道，向青少年、                           代进行前置伦理评估，全面客观分析潜在风险与建
               老年人、基层群众等重点人群普及大语言模型的能                            议措施，为政府和企业提供专业意见。其四，对两
               力边界与局限性，帮助用户建立正确的基本认知，                            类模型实施差异化的市场准入门槛，通用大语言模
               明晰何种情形下应当及时寻求线下专业心理咨询                             型进入精神卫生咨询场景应完成特定功能的合规
               或精神科诊疗。要求平台在用户首次使用前以清                             性备案，明确其使用边界，禁止替代专业诊疗；专用
               晰易懂的方式告知模型的工作原理、数据使用方                             大语言模型则须经过国家卫生健康主管部门认证，
               式、输出内容的局限性及投诉救济渠道，而非以冗                            参照医疗器械审批程序进行严格的临床试验与安
               长的格式条款代替实质性知情；在咨询过程中，对                            全评估，方可投入应用。
   24   25   26   27   28   29   30   31   32   33   34