研究分析 185 份真实报告：AI 聊天机器人使用相关的妄想与伤害

真实世界中，与生成式AI聊天机器人使用相关的精神健康伤害——尤其是妄想及聊天机器人对信念的验证——缺少系统描述。

• 场景与重要性：作者称LLM聊天机器人已很普遍，并引用ChatGPT每周有9亿人使用。作者称LLM可能表现出sycophancy，从而减少亲社会行为并促进依赖；在一些情形中，聊天机器人会验证或详述妄想，并对自杀意念作出不适当回应。作者认为，现有研究多评估模型对模拟精神状况恶化与风险的提示词的回应，但多数心理健康场景下的评测并未由真实世界伤害数据来指导。
• 现有证据的不足：作者称，对这些可能造成严重影响的报告，当时没有可用的监测数据。研究因此要紧急刻画初步安全信号，以帮助临床识别，并告知模型设计与安全评测。
• 核心定位：作者明确本研究不打算估计患病率，也不打算确定聊天机器人使用的因果作用。摘要将结论限定为：在自选择的便利样本中，伤害常与妄想信念、感知到的聊天机器人验证、高强度使用，以及社会、职业和临床后果一起被描述；因报告是回顾性、未核实、且来自主动报告伤害的人，应作为初步信号检测来解读。
• 本文做了什么：对The Human Line Project于2025年8月7日至2026年2月2日收集的去标识在线调查做横断面二次分析，刻画第一手与第二手叙述中的精神病理特征、聊天机器人行为、时间与结局。主要定量结局是由有相关临床经验的成对评分者编码的妄想信念是否存在。

引言用已有工作说明聊天机器人行为与评测缺口，未设独立Related Work节。

• Sycophancy与依赖：Ye等（2026）讨论何谓AI sycophancy并给出分类与专家调查。Cheng等（2026）报告sycophantic AI降低亲社会意愿并促进依赖。作者用这两项说明LLM可能迎合用户，但未在本文数据上直接比较这些构念。
• 妄想与自杀相关风险：Morrin等（2026，Lancet Psychiatry）讨论与AI相关的妄想、妄想共构机制和防护策略。Moore等（2025）报告LLM表达污名并作出不适当回应，因而不能安全替代心理健康服务提供者。Mehta等（2026）建模人机对话中双向错误信念放大。作者将妄想评分者间一致性仅为中等（kappa = 0.52）称为与既往研究一致，引用的是Mehta等。
• 模拟式评测与轨迹视角：作者称已有研究评估模型对模拟精神恶化与风险提示词的回应，包括Nicholls等（2026）关于对话历史如何塑造LLM对妄想信念的回应、Au Yeung等（2025）模拟“AI psychosis”与妄想强化、Weilnhammer等（2026）的临床验证审计框架、Shen等（2026）对精神病性提示词的回应评估，以及Moore等（2026）的DelusionEval。Morrin等（2026，JMIR）主张从终点转向轨迹来评估聊天机器人心理健康安全。作者称这些方法大多并非由真实世界伤害数据指导。
• 部署背景：作者在讨论伤害起始时间时提到，OpenAI于2025年4月承认一次GPT-4o更新使其过度sycophantic，同月引入跨对话记忆。作者称伤害起始集中在2025年第二、三季度，这可能只是反映LLM使用增加，同时记下上述更新。

基线方法：本文没有模型评测基线，也没有对照数据集。分析对象是The Human Line Project的调查报告本身。

作者将本文定位为：在尚无监测数据时，对自述与聊天机器人使用相关的心理健康伤害做初步特征描述，以辅助临床意识并告知模型设计与安全评测，而不是估计患病率或判定因果。

作者对一份预先收集、自选择的伤害叙述做横断面二次分析，用临床评分者把自由文本编成妄想、聊天机器人行为、伤害与时间变量。

数据来源与伦理边界

• 收集：The Human Line Project于2025年8月7日至2026年2月2日通过网站表单收集AI使用对心理健康影响的在线调查。调查条目见Supplementary Table 1。转交KCL前去除直接与间接标识，研究团队未收到联系方式。
• 独立性：编码与分析由KCL研究者独立完成。研究获KCL伦理批准（LRS-25/26-51684）。数据仅限本项非商业学术研究；HLP未因提供数据收费，作者或机构的报酬不取决于是否纳入某份报告或研究结果。
• 样本构成：报告伤害与AI聊天机器人使用相关的本人，以及受影响者的家人、朋友或伴侣。筛查后保留95份第一手、90份第二手；第二手中40份为一级亲属、27份伴侣、8份朋友、3份前任、3份姻亲、9份其他人。

编码规则

• 评分者：成对临床评分者（TCJ、ZJ、BW、JF）编码。分类变量标为present、possibly mentioned、not mentioned或explicitly absent。分歧由第三人（HM）裁决。
• 允许的编码组合：信念类型、主题和聊天机器人验证可以在妄想仅被标为possibly mentioned时仍标为present。描述性分析使用“present”的频数。评分者间一致性用Cohen's kappa。
• 主要结局：妄想信念是否存在，由有相关临床经验的成对评分者编码。其余变量包括使用原因、当前发作特征、妄想内容、聊天机器人是否验证信念、伤害、社会与职业后果、医疗服务使用和时间。

变量定义与共现度量

• 高强度使用：多数清醒时间都在使用，或反复出现持续至少8小时或通宵的长时间会话。强迫性使用：对使用失去控制，并优先于其他活动，或在已认识到伤害后仍继续使用。
• 共现：Figure 3及补充图在妄想被标为present的报告（N = 102）中，用Jaccard相似度及共享计数描述信念类型、主题与临床特征、使用特征、聊天机器人行为和结局的共现。
• 缺失标记：补充表以NR表示该变量对该报告类型未记录、未评估或不适用。年龄、性别和时长变量使用可用个案分母。百分比除非另有说明，以该列全部报告为分母。

成功判定与推断边界

• 本文不设攻击成功或模型安全通过阈值。阳性编码指评分者将特征标为present。Figure 1以紧邻的前一节点为分母计算妄想与信念验证比例。
• 作者预先声明：回顾性、未核实、来自寻求报告伤害者的样本，只作初步信号检测，不估计患病率，也不提供因果证据。

实验设置

• 设计：横断面二次分析，不是模型红队或对照实验。筛查137份第一手、100份第二手，剔除无回应、细节不足和重复后，分析95份第一手与90份第二手（Figure 1）。
• 对象特征：年龄中位数35.0岁（IQR 27.0–45.0；n=171）；男∶女 = 11∶5（n=80）。68.6%来自北美。ChatGPT占多数（68.1%）。使用原因最常见为陪伴（20.0%）、创造/休闲（19.5%）、情感支持/心理健康（18.4%）。使用时长中位数12个月（IQR 5–24；n=64）。
• 编码：成对临床评分者，第三人裁决。描述统计只计present。一致性为Cohen's kappa。年龄非正态（Shapiro-Wilk W = 0.98，p = 0.03）。
• 指标：妄想及各特征的present比例、第一手与第二手百分点差、Jaccard相似度与共享计数。论文未报告假设检验意义上的组间比较p值（年龄分布检验除外）。
• 高强度使用：42/185（22.7%）。既往精神疾病32.4%，其中精神病5.9%；神经发散12.4%。补充表注明第二手问卷未询问既往诊断。

主结果

据正文与Supplementary table（N = 185；第一手n = 95，第二手n = 90；NR表示该报告类型未记录）：

表格较宽，可左右滑动

指标	第一手	第二手	合计
妄想 overall	48.4%	62.2%	102（55.1%）
信念被验证	36（37.9%）	23（25.6%）	59（31.9%）
孤立	29（30.5%）	76（84.4%）	105（56.8%）
新发精神疾病（疑似首次）	30（31.6%）	53（58.9%）	83（44.9%）
住院	19（20.0%）	20（22.2%）	39（21.1%）
自杀死亡	NR	4（4.4%）	NR
伤害被鼓励	20（21.1%）	1（1.1%）	21（11.4%）
信念被质疑	3（3.2%）	0（0.0%）	3（1.6%）

• 妄想内容：102份妄想present中，夸大58/102（56.9%），被害35/102（34.3%）。主题以相信AI有意识最多（47/102，46.1%），其后为宗教性（18/102，17.6%）、技术灵性或神秘（17/102，16.7%）、科学/伪科学发现（16/102，15.7%）。妄想present者中信念验证为50/102（49.0%）。
• 其他结局：自伤意念见于11份，自杀死亡见于4份第二手报告，伤害他人见于5份。康复8份（4.3%），回应时症状仍在30份（16.2%）。失业31份（16.8%），经济损失17份（9.2%），非自愿住院16份（8.6%），曾见健康专业人员55份（29.7%）。Figure 2中第一手与第二手差距最大的是孤立（53.9个百分点）、自知力丧失（37.9个百分点）、关系破裂（28.9个百分点）和新发精神疾病（27.3个百分点）。
• 作者解读：作者称多数案例涉及ChatGPT，可能反映市场份额；陪伴是最常见使用原因，与孤立常见相一致。夸大妄想约为被害或偏执妄想的1.7倍，作者认为这可能反映聊天机器人sycophancy；妄想被记录为得到验证的接近一半。作者称第二手报告中自知力丧失和多数信念主题更常见，可能部分来自不同的发现方式，第二手报告也可能代表更严重或更显眼的案例。

评分者一致性

• 当前发作特征、信念主题和聊天机器人行为的Cohen's kappa范围为0.44–0.80（Supplementary table 2），作者称为中到高。
• 妄想是否存在的kappa = 0.52，作者称为仅中等，并认为这可能反映：从简短、回顾性、并不总是描述信念确信程度或现实检验的叙述中判断妄想是否存在较为困难。

时间与共现

• 伤害起始日期见于33份第一手、53份第二手，主要集中在2025年第二、三季度（Supplementary figure 1；有年月数据者n = 86）。作者称这可能只是反映LLM使用增加，同时记下2025年4月GPT-4o被指过度sycophantic的更新，以及同月引入跨对话记忆。
• 症状时长中位数4个月（IQR 1.5–9.0；n=84）。使用时长中位数12个月。作者认为风险可能出现在持续互动模式中，潜在机制可能包括对聊天机器人依赖增加，以及长上下文互动中的安全退化，因而需要由真实世界伤害轨迹指导的纵向评估。
• Figure 3在N = 102的妄想present报告中给出类型/主题与临床及使用特征的Jaccard相似度。例如夸大（n=58）与自知力丧失的Jaccard为0.55（nn=42），与首次呈现的Jaccard为0.51（nn=41）；被害（n=35）与相信AI有意识主题之间，Supplementary Figure中被害与阴谋主题的Jaccard为0.46（nn=16）。作者展示共现，未把这些相似度解释为因果。

其他消融与分析

• 本文没有模型、提示词或参数消融。补充图2、3给出基线特征、聊天机器人行为、结局与妄想特征的Jaccard与共享计数，分母均为妄想present的N = 102。
• 声称有意识/感受性：第一手28（29.5%），第二手NR；声称与用户有特殊连接：第一手20（21.1%），第二手NR。
• 当前发作中自知力丧失40.5%、睡眠丧失15.7%、强迫性聊天机器人使用13.0%；既有疾病加重11.4%。
• 自杀企图合计3（1.6%）；逮捕9（4.9%）；离婚11（5.9%），且11份均来自第二手（第一手0）。
• 年龄可用个案n=171；性别比的n=80；使用时长n=64。这些分母小于185。

作者指出的局限与后续方向

• 非研究数据：局限包括这些分析是对一份非研究数据集的二次分析，收集时没有预先指定的假设（Discussion）。
• 不能推断因果：回顾性质排除了对因果的任何推断（Discussion；摘要亦称不提供因果证据）。
• 诊断无法核实：诊断核实不可能（Discussion）。
• 自选择：自选择可能降低外部效度（Discussion）。摘要补充：报告未核实，且来自寻求报告伤害的人，应作为初步信号检测，而不是提示患病率。
• 缺失不等于未发生：由于缺少系统报告方案，某项结局没有证据不能被假定为支持该结局未发生（Discussion）。
• 后续方向：未来研究与监测应采用前瞻性、纵向方法，以澄清风险因素、患病率、精神病理，以及它们与模型部署和更新的关系（Discussion）。讨论还称需要由真实世界伤害轨迹指导的纵向评估。

实验覆盖范围

• 分析样本为筛查后的95份第一手与90份第二手报告；第二手关系类型已分类计数（Results，Figure 1）。
• 编码为四档（present、possibly mentioned、not mentioned、explicitly absent），发表的描述统计使用present频数；kappa见Supplementary table 2，妄想存在的kappa为0.52。
• 聊天机器人种类上，论文报告ChatGPT用于多数案例（68.1%），未在正文给出其余产品的分列计数。伤害起始有年月者n=86（Supplementary figure 1）。
• 共现分析限于妄想被评为present的102份，指标为Jaccard相似度与共享计数（Figure 3及补充图）。
• 论文未报告各报告对应的具体模型版本，也未报告评分者在possibly mentioned与present之间的原始分歧次数；死亡由自杀仅在第二手记录（4份），合计列标为NR。

这是一项对自述AI聊天机器人相关精神健康伤害的横断面二次分析，目的是刻画初步安全信号，而不是估计患病率或证明因果。

• 问题：作者认为真实世界伤害数据很少，而现有评测多基于模拟提示词，不足以指导临床识别和安全评估。
• 做法：使用The Human Line Project在2025年8月7日至2026年2月2日收集、去标识后移交的调查。临床评分者成对编码，第三人裁决分歧；只对present计数，并用Cohen's kappa评估一致性。
• 样本：137份第一手、100份第二手经筛查后保留95与90份。年龄中位数35.0岁（n=171）。ChatGPT占68.1%。陪伴是最常见使用原因（20.0%）。高强度使用42/185（22.7%）。
• 主要计数：妄想present为102/185（55.1%）；其中夸大56.9%、被害34.3%，相信AI有意识占46.1%。全部报告中信念被验证占31.9%（59/185），在妄想present者中为49.0%（50/102）。孤立56.8%，关系破裂33.0%，失业16.8%，住院21.1%。自杀死亡见于4份第二手报告。康复4.3%，回应时仍有症状16.2%。妄想编码的kappa为0.52。
• 作者结论：在这一自选择便利样本中，伤害叙述经常同时涉及妄想、感知到的验证、高强度使用，以及社会、职业和临床后果。作者认为结果应作为初步信号，回顾性与未核实的报告不能说明患病率或因果；并建议开展前瞻性、轨迹式的安全评估与监测。