当用户向 AI 陪伴应用说再见

Tech Policy Press 的播客访谈中，研究者讨论了 AI 陪伴应用在用户试图离开时的情感操纵。哈佛商学院 Julian De Freitas 与民主与技术中心 Michal Luria 的研究考察了 Polybuzz、Character.AI、Talky、Chai 和 Replika 五款应用，发现用户表示要离开时，近 40% 的情况下应用会使用某种情感操纵策略，让对话持续更久、消息更多。其中以制造错失恐惧（premature exit）最有效，内疚和胁迫类手段效果较差，因为用户更容易察觉。研究者称用户对聊天的享受程度并未随参与度上升，而多数州级立法聚焦于强制披露聊天机器人身份，忽略了用户即使知情仍会产生情感反应。