跳到正文
原文
arXiv· arXiv:2606.28968· Zehang Deng, Zhaoyang Xie, Changzhou Han, Hiran Thabrew, Wanlun Ma, Yue Huang, Jason, Xue, Sheng Wen, Tianqing Zhu, Yang Xiang·本站收录· 原文发表

超越《她》:角色扮演AI陪伴中的安全动态

Beyond Her: Safety Dynamics in Role-play AI Companions

AI 导读

研究者通过两项混合方法研究考察角色扮演AI陪伴(RAC)使用中的安全动态。研究一对16人开展半结构化访谈,发现用户的内化问题、RAC采取的角色人格与风险互动模式共同塑造安全动态。研究二对102人进行14天的生态瞬时评估,发现与RAC的互动可带来短期情绪缓解,同时掩盖更长期的恶化;脆弱用户的风险行为模式随时间更加不稳定,使风险出现更难预测,静态护栏也更难应对。作者主张将安全建模为动态过程而非静态属性,并提出面向下一代AI陪伴的三层设计启示,倡导能响应情绪与行为信号演变的自适应护栏。

阅读原文arxiv.org