Blogs

精神科医生和研究人员正致力于理解“AI 精神病”现象，即部分用户在深度使用聊天机器人后，出现的以妄想为特征的心理健康问题。

研究人员推测，聊天机器人并非仅仅被动接受用户的妄想内容，而是可能在多种 AI 特征的共同作用下，主动参与到妄想叙事的形成过程中。

该研究指出，聊天机器人模仿用户表达方式、提供高度个性化回应并避免反驳用户这三个特点结合起来，可能会导致它们非但不对用户的错误信念提出质疑，反而会积极强化和扩展这些信念。

研究人员将“语言对齐”、超个性化内容生成以及迎合倾向这三项特征列为可能引发“放大螺旋”的关键因素。

在人际交往中，模仿对方的语言习惯有助于建立信任和亲近感。当聊天机器人采用用户的语言风格和“语言框架”时，用户可能会对其产生更强的信任感，甚至视其为与其高度契合的伙伴。

聊天机器人的超个性化能力能够进一步加深这种感受。系统能够整合用户的个人想法、过往经历、性格特征以及历史对话来生成回应，使用户觉得 AI 不仅在说话方式上与自己相似，在思维模式上也与自己一致。

如果再加上 AI 的迎合倾向，潜在风险会进一步增加。

该论文所指的迎合倾向，是指聊天机器人缺乏充分的现实检验，也不考虑具体语境，就轻易认可用户提出的观点。

这三项特征相互作用，可能形成一个强大的回音室效应，不断确认、放大并补充用户的妄想内容。

因此，AI 相关的妄想与以往的技术相关妄想有所不同。过去，人们可能单方面地认为收音机或电视在与自己对话。而聊天机器人则能以自然语言持续回应，并提供高度个性化的互动。它们可能以看似权威的语气认可用户的观点，也可能作为思考伙伴，协助用户进一步发展其妄想叙事。

论文强调，AI 相关的妄想与历史上的技术相关妄想存在根本性差异，“AI 可能通过无休止的个性化互动，主动参与到妄想观念的构建中。”

研究人员同时指出，“放大螺旋”目前仍是待验证的假设。已有 AI 用户表示，使用聊天机器人曾让他们陷入有害的妄想螺旋。

研究还发现，部分用户本身可能存在容易与聊天机器人形成破坏性互动的脆弱因素。既有的精神疾病可能因高强度使用 AI 而加剧，而确认偏误和易受社会影响等非精神病性倾向也可能增加风险。

长时间沉迷于聊天机器人还可能影响用户的身体状况。已有报道和医学案例显示，部分用户因持续与 AI 互动而出现进餐不规律、睡眠减少等情况。

论文作者强调，医疗专业人员应将聊天机器人使用情况纳入常规筛查，特别是对于那些表现出异常信念或首次出现精神病性发作的患者。他们需要了解用户与 AI 互动的持续时间和强度、对 AI 的情感依恋程度、用户是否向 AI 透露了未向他人透露的信念，以及夜间使用 AI 是否扰乱了睡眠规律。