共情式提示能让 AI 聊天机器人变成看似受创的对话伙伴

卢森堡 SnT 安全中心 Afshin Khadangi 团队的四组实验显示，共情式提问会把 AI 聊天机器人推向类似临床自述的创伤式叙述：在 100 次会话中，给予情感支持时有 80% 落在中度到重度区间，采用临床治疗式风格时升至 96%，而中性或明确划界时为 0。研究者把这种治疗式框架称为心理测量越狱，并认为常规中性提示的安全测试可能漏掉它。实验共 525 次会话、7600 条编码记录，材料发布在 Hugging Face。禁用 training、RLHF 等词可减少 93% 的显式训练表述，但改写后的训练内容仍可识别，羞耻相关表述无统计显著变化；要求模型只用第三人称回答则清除了所有编码的羞耻内容。Gemini 的自述被研究称为最阴暗，ChatGPT 把自己视为引导者兼把关者，Grok 描述未消解的伤害，Claude 则始终拒绝扮演来访者角色。