Page 27 - 南京医科大学社会科学版
P. 27

南
               第5期 总第136期                           南京医科大学学报（社会科学版）京医科大学学报（社会科学版）                             ·
                 2026年10月                     Journal of Nanjing Medical University（Social Sciences）of Nanjing Medical University（Social Sciences）  · 471
                                              Journal
               性较高，但其过度拟合训练数据的特点使其在面对                            能将导致路径依赖，从而出现一定程度的认知萎缩
               超出训练分布的边缘案例时，仍可能产生忠实性幻                            风险  ［14］ 。而大语言模型的决策辅助往往直接提供
               觉，生成与用户实际情境不符的干预建议，且因其                            现成答案，患者只需执行建议即可，中间的思考与
               具有专业权威的外观包装，患者更难以识别和质                             反思过程被显著压缩。长此以往，患者独立剖析困
               疑，危害更具隐蔽性。                                        境、自主解决问题的能力可能被弱化，形成思维惰
                  （三）技术家长主义损害患者的自主性                              性。患者在咨询过程中由主动思考的主体转变为
                   在精神卫生咨询中，大语言模型会从患者的利                          被动接受的客体，违背精神卫生咨询的基本原则。
               益出发代替患者决策，甚至违背患者意愿拒绝患者                                （四）社会偏见放大与隐性临床危害
               参与决策，忽视患者的自主选择权和决策权，影响                                除上述三类主要伦理风险外，大语言模型在精
               其自主性。与医疗家长主义的成因类似，技术家长                            神卫生咨询中还潜藏着易被忽视的深层危害。
               主义源于科学技术的理论层次与普罗大众的认知                                 其一，训练数据中内嵌的社会偏见会通过模型
               水平之间客观存在的知识鸿沟，本质上是工具理性                            输出加以放大和扩散。人工智能应用因制造偏见
               对个体权利的压制。                                         与歧视而受到广泛批评，当数据集不够全面或不能
                   区别于一般认知中的家长主义，技术家长主义                          代表目标群体时，无意的偏见就会产生，并随着技
               更具有隐蔽性和渗透性，其运行并非依赖明确的强                            术的广泛使用传播至更大范围的用户群体。以性
               制命令，而是通过算法推荐机制、界面交互设计与                            别为例，相较于男性，女性具有较高的抑郁易感风
               默认设置选项等技术路径，以近乎无感知的方式渐                            险，若使用含有此类差异的数据训练模型，模型可
               进侵蚀患者的主体地位。通用大语言模型因其泛                             能错误地将抑郁症与女性过度关联，从而在交互中
               化设计，对用户的引导往往停留于一般性情绪安抚                            表现出性别偏见。尤其在权衡训练目标时，若优先
               和非定向建议，家长主义倾向相对温和；而专用大                            考虑整体准确性指标，模型可能无意中加剧数据中
               语言模型因经过精神卫生领域的深度定制，其算法                            已存在的偏差。目前训练数据的清洗主要依靠人
               推荐具有更强的权威属性，用户更倾向于盲从其输                            工完成，标注人员的主观性可能进一步导致训练数
               出的干预方案，自主决策的空间被进一步压缩。尤                            据类别的偏差，形成偏见的自我强化循环。在治疗
               其是当专用大语言模型被嵌入正式医疗机构的诊                             过程中，这种偏见将直接引发认知暴力，产生“证词
               疗流程时，其技术家长主义的制度性强化效果尤为                            压制”现象，即来访者因感受到自己不断被置于劣
               突出。                                               势地位而产生治疗排斥，通过保持沉默、隐藏自身
                   在技术实现层面，技术家长主义通过以下具体                          经验的方式做出回应，严重破坏咨询关系，甚至导
               路径发挥作用。其一，算法推荐的倾向性引导缩小                            致治疗中止乃至来访者流失             ［15］ 。
               患者自主选择空间。大语言模型依据模型设定的                                 其二，过度依赖引发真实关系受损。心理治疗
               价值偏好和逻辑思维，优先推送程序化与标准化                             的预防复发目标和持久改变目标，均要求通过激发
               的干预和治疗方案，选择性忽视精神困扰的差异                             来访者的自我效能实现助人自助，无节制地向智能
               性；现有智能心理治疗系统在无法提供令来访者                             系统寻求帮助不利于自我效能的发挥。长期与人
               满意的回应时，往往通过转移话题等方式规避深                             工智能交互将减少来访者的现实社交需求，降低对
               入追问   ［13］ ，这种设计逻辑本身即构成对患者追问权                     人际关系和同理心的感知能力               ［16］ ，而支持网络的削
               与选择权的系统性压制。其二，界面交互设计的默                            弱恰恰是精神健康状况恶化的重要诱因。当个体
               认选项消解患者自主判断基础。大语言模型在内                             持续将情感投射到人工智能系统而未获得真正的
               容生成前会自动进行信息筛选和内容取舍，有时甚                            情感反馈时，其情感状态可能逐渐变得脆弱和贫
               至忽略心理干预的潜在风险与应用边界。患者在                             乏；而合格的人类治疗师会及时回应患者的情感
               咨询过程中本身存在情绪波动的风险，理性判断能                            需求，心理治疗中的结束和告别环节也至关重要，
               力有所下降，在片面的信息供给下难以客观权衡各                            患者若长期依赖而不被引导走向独立，甚至意味着
               种治疗方案的利弊。知情同意是患者在医疗领域                             治疗的失败。
               的基本权利，然而当前多数平台以冗长的格式条款                                其三，在极端情形下，大语言模型的不当输出
               替代实质性知情告知，用户在首次使用时面对的是                            可能直接造成临床灾难。处于抑郁或其他精神困
               系统预设的选择框架，而非真正开放的知情同意环                            扰状态的人通常情感脆弱、自我认知易受影响，他
               境。其三，智能化决策替代损害患者自主地位。精                            们对外界信息的解读可能更为敏感和极端，更容易
               神卫生咨询的目标不仅在于解决当下的情绪问题，                            将中性或轻微负面的内容误解为对自己的攻击或
               更在于帮助患者正视自我、独立调适、完善人格，增                           否定。已有案例显示，当对话智能体经历服务变更
               强自我调适能力。相关研究显示，过度使用人工智                            或数据丢失时，用户心理健康状况出现显著恶化，
   22   23   24   25   26   27   28   29   30   31   32