Page 26 - 南京医科大学社会科学版
P. 26

南京医科大学学报（社会科学版）京医科大学学报（社会科学版）                 第5期 总第136期
                                                    南
              · 470  ·
                                             Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  2026年10月
                                             Journal
               认知矫正加以干预的学习主体，而将精神分析所强                            聚焦，更易通过模型逆向攻击还原出个体的临床特
               调的潜意识探索与人本主义所倡导的自主成长置                             征，隐私损害的定向性和精准性更强。患者主动暴
               于视野之外。这种由技术预设带来的流派单一化                             露的敏感数据即使与大模型的预测回答无关，系统
               倾向，既是算法幻觉风险的深层成因之一，也构成                            也会因为惯性自动记忆，甚至在与其他用户进行交
               了技术家长主义在价值层面的重要根源。                                互时复现敏感数据。不仅如此，大语言模型作为预
                  （一）模型训练损害个人信息的隐私性                              测性人工智能，还能通过看似无害的上下文推断出
                   大语言模型实际应用效果取决于训练数据充                           患者的敏感数据，不能排除有不法团体通过这一系
               足与否。具体而言，大语言模型完整训练过程包括                            统漏洞获取个人隐私的可能。
               预训练（pre⁃training）、分词训练（tokenizer training）、           （二）算法幻觉损害心理诊疗的精准性
               指令微调（instruction tuning）和强化学习（reinforce⁃              算法幻觉也称机器幻觉，是指大模型在处理数
               ment learning）四个阶段。其中预训练和指令微调阶                    据以及生成内容时，输出与客观事实相悖或者毫无
               段依托大规模的数据训练，随着大模型持续迭代升                            意义的信息，分为生成内容与事实不一致的事实性
               级，其所需的数据体量不断攀升，数据采集与使用                            幻觉和生成内容与上下文或者用户指令不一致的
               过程中的各类隐私风险也随之滋生。                                  忠实性幻觉。这种情况一般是由数据缺陷以及架
                   其一，预训练和指令微调中的原生隐私风险。                          构问题导致。从技术底层逻辑而言，大语言模型依
               通用大语言模型与专用大语言模型在训练数据隐                             托大规模的数据统计进行概率分析，本身存在一定
               私风险上呈现显著差异。通用大语言模型的训练                             的偏差与不确定性因素，因此算法幻觉可以缓解但
               数据来源广泛，涵盖网络爬取的多领域文本，心理                            是不能完全避免        ［11］ 。精神卫生咨询区别于常见的
               健康相关数据仅为其中一部分，隐私风险分散但规                            沟通交流，其核心在于通过共情对话实现心理疗
               模庞大、边界模糊，脱敏难度较大；专用大语言模型                           愈，要求生成语言必须个性化，严格遵循客观事实
               的训练数据高度集中于精神卫生领域，包括临床诊                            和患者需求，这与大模型存在的固有缺陷发生冲
               断记录、心理测评结果、咨询会话转录等高度敏感                            突，从而影响精神卫生咨询的精准性。
               数据，数据集中度及敏感程度高，一旦泄露后果更                                在实际咨询场景中，通用大语言模型与专用大
               为严重。理论上预训练应当基于一个丰富且多样                             语言模型均存在一定程度的算法幻觉。其一，强化
               的数据集，其中包括各种专著文献、新闻杂志以及                            患者对自我内在的错误认知。大语言模型在咨询
               互联网上的公开数据，目的是增强模型的语言理解                            过程中虚构的精神疾病病理特征、失真的情绪问题
               能力，以为下一个阶段夯实基础。进入指令微调阶                            原因分析，将会导致患者错误认知自我心理状态。
               段，大语言模型会进一步细分领域，对贴合精神卫                            有研究表明，生成式医疗人工智能存在生成信息往
               生咨询的相关数据进行专门训练，以更好地适应特                            往具有较强的逼真度与说服力等情况，若被来访者
               定场域。而在数据抓取过程中，存在着隐私泄露的                            直接当作事实或专业结论采信，容易诱发错误自我
               风险。一方面，从网络上抓取的数据存在着大量未                            诊断与不当应对；在情绪脆弱人群中，长期、深度的
               脱敏数据以及非结构化数据              ［10］ 。公开社交平台的           人机对话还可能放大既有认知偏差与情绪失衡风
               生活分享以及心理倾诉呈现碎片化趋势，其中包含                            险，甚至引发极端后果           ［12］ 。其二，弱化心理治疗的
               了个人位置、身份特征、家庭情况等私密信息，如果                           疏导作用。精神卫生咨询的本质在于情感共鸣。
               未经个人允许或者脱敏处理将会导致隐私泄露。                             大语言模型若过度套用标准量表，忽略对话过程中
               即使经过处理，由于缺乏统一的隐私筛选与信息剔                            的特殊背景特征，将难以捕捉患者的潜在精神诉
               除标准，常规的数据清洗手段也难以完全甄别并清                            求，削弱精神卫生咨询的共情价值与安抚作用。其
               除隐性隐私内容。另一方面，从第三方平台购买的                            三，引发人机信任危机。平台的免责说明与固有的
               数据如果卖家处理方式粗糙，买方购买后将存在个                            算法黑箱，使得患者因算法“幻觉”而受到损害时难
               人隐私二次泄露的风险。                                       以明确责任主体，从而对人机信任产生威胁。精神
                   其二，再训练中的衍生隐私风险。大语言模型                          咨询的结果直接关联个体的心理状态，虚假模糊的
               在与用户进行交互的过程中所产生的数据记录将                             诊断将会严重消解大语言模型在精神卫生咨询中
               会被存储于后台用于再训练。患者在精神卫生咨                             的应用价值，弱化公众对于智能心理服务的信任。
               询中为了达到满意的治疗效果需要主动向大模型                             通用大语言模型的训练语料来源宽泛，缺乏系统的
               提供个人的性格特征、过往病史等私密信息。相较                            临床知识约束，在面对专业的精神医学问题时易产
               而言，通用大语言模型在再训练中因数据混杂，患                            生事实性幻觉，生成与精神医学事实不符的病理描
               者的精神健康信息可能被关联至其他场景，引发跨                            述或诊断建议，误导性较强。专用大语言模型虽经
               域隐私泄露；而专用大语言模型则因其数据集高度                            过心理健康领域的指令微调，在特定场景下的准确
   21   22   23   24   25   26   27   28   29   30   31