Page 28 - 南京医科大学社会科学版
P. 28

南京医科大学学报（社会科学版）京医科大学学报（社会科学版）                 第5期 总第136期
                                                    南
              · 472  ·
                                             Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  2026年10月
                                             Journal
               甚至出现自伤行为         ［17］ ，充分表明技术风险在精神卫               另一方面，企业在训练过程中应当提高大语言模型
               生咨询领域的危害后果远比其他领域更为严峻。                             的可解释性，减少因算法黑箱导致的隐私风险，增
               大语言模型作为预测性人工智能，生成信息往往具                            强其可追溯性       ［19］ 。其三，构建公开数据合法使用依
               有较高的逼真度与说服力，若被情绪脆弱的来访者                            据。通过目的合理性、应用必要性以及利益权衡三
               直接当作事实或专业结论采信，可能诱发错误自我                            方面，综合考量大模型使用公开数据的合法权益，
               诊断与不当应对，在极端情形下甚至引发临床灾                             动态平衡个人隐私与科技发展。其四，将匿名数据
               难，须将安全底线作为规制框架的优先考量。                              纳入监管范围。由于大语言模型在训练过程中存
                                                                 在根据匿名数据推测出第三方的个人信息的风险，
               三、大语言模型在精神卫生咨询中的规制路径
                                                                 应当将匿名数据的处理标准化，根据不同咨询场景
                   技术治理并不是被动防御的静态过程，而是围                          和患者敏感度灵活制定认证制度，确保企业对匿名
               绕风险识别、责任分配与能力边界不断迭代的动态                            数据处理的有效性。其五，实施分类数据安全标
               优化过程。2026 年颁布的《人工智能科技伦理审查                         准。针对通用大语言模型，重点规范其精神健康相
               与服务办法（试行）》（以下简称《办法》），为大语言                         关数据的识别、隔离与脱敏流程，防止心理数据与
               模型在生命健康领域的伦理规制提供了重要的制                             其他数据的交叉污染；针对专用大语言模型，应建
               度依据。鉴于通用大语言模型与专用大语言模型                             立更为严格的数据准入审查制度，明确训练数据的
               在技术架构、数据处理及应用场景上的差异，规制                            来源合法性与患者知情授权，并对数据集中存储设
               路径应坚持分类施策原则；面对模型训练中的个人                            置更高的安全等级要求。
               隐私风险、用户交互中的算法幻觉风险以及服务过                                （二）优化算法治理规范，消解模型幻觉与诊疗
               程中的自主性受损与隐性临床危害，应当有的放                             偏差
               矢、因地制宜。在审视上述风险的同时，亦须正视                                大语言模型学习的是自然语言的分布规律，因
               大语言模型在精神卫生服务领域的普惠优势，规制                            此生成的内容是语言上的一般答案，而并非逻辑上
               框架的设计目标在于守住安全底线，而非因噎废                             的唯一正确答案。模型在精神卫生咨询过程中所
               食、阻断技术的积极价值。“实践、认识、再实践、再                          产生的算法幻觉，往往与算法规则、技术黑箱及情
               认识，这种形式，循环往复以至无穷，而实践和认识                           境依赖等因素交织，具有生成机制的复杂性和伦理
               之每一循环的内容，都比较地进到了高一级的程                             挑战的严峻性       ［20］ ，因而应当从技术维度和制度层面
                   ［18］
               度。” 循此逻辑，应当以个人隐私保护机制、算法                           协同治理，重塑算法治理规范，消解诊疗偏差。
               治理规范和人本价值立场为导向，有针对性地规制                                其一，构建生成内容逻辑验证机制，在技术维
               大语言模型在精神卫生咨询中的伦理风险，进而健                            度去幻觉化。验证机制的建立有赖于规则的提炼
               全行业伦理准则，构建多元协同监管体系。                               和形式化。开发模型的人员应当与精神卫生咨询
                  （一）筑牢数据安全防线，完善个人隐私保护机制                         的专家确认模型应遵守的基本原则，如因果关系一
                   大语言模型的数据使用具有用途模糊和使用                           致、价值中立、重大决定延期等，并将其嵌入系统运
               无限的特点，加之其算法黑箱的技术缺陷导致患者                            行的内在规则。在咨询过程中，应当建立动态监测
               知情同意权形式化、被遗忘权失效的现实困境。大                            机制，搭建实时校验模块，对于不符合验证规则的
               语言模型的训练涉及大量的敏感数据，其导致的隐                            内容予以识别并及时拦截，对模糊表述、片面观点、
               私风险是一种集体性风险，因此应当改变过去个人                            虚假结论进行自动修正与标注，杜绝错误内容直接
               防御的思路，调整为整体应对的手段。                                 输出。这一模块应着力提升训练数据的多样性与
                   其一，建立模型的隐私风险评估审查制度。目                          代表性，纳入不同文化、年龄、性别背景下的心理
               前欧盟已经以法律形式确认了这种制度，《通用数                            问题表达样本，明确偏见审查与算法公平性评估
               据保护条例》第 35 条规定：在数据处理机制出现风                         标准，并建立多学科协作机制，整合精神医学、计
               险时，管理者应当对风险评估进行审查。具体来                             算机科学与伦理学等领域的专业知识，持续推动
               说，这种评估方式应当在监管部门的要求下，通过                            系统改进    ［21］ 。
               第三方评估机构对企业进行定期与不定期的审                                  其二，构建可验证的人工智能发展体系，在制
               查。同时建立相关数据标准，对评估结果按照风险                            度层面增强可信性。模型的合规性认证是确保生
               等级进行合理分类，并提出相应的整改措施。其                             成内容可验证的重要条件，应当对算法的透明性作
               二，增强模型训练过程中的透明性。公开透明是处                            进一步明确要求，增强其决策流程与内部推理的可
               理个人信息的基本法律准则。一方面，应当要求企                            追溯性。对于精神卫生咨询中敏感环节，应当设置
               业记录训练数据来源、用途以及结果，考虑到实际                            风险预案内置异常处理机制，在患者对生成内容产
               成本，不应逐一列举数据而应作类型和特征说明。                            生明显情绪波动时，及时终止程序并作出相应补
   23   24   25   26   27   28   29   30   31   32   33