超越《她》:角色扮演AI陪伴中的安全动态
Beyond Her: Safety Dynamics in Role-play AI Companions
AI 导读
研究者通过两项混合方法研究考察角色扮演AI陪伴(RAC)使用中的安全动态。研究一对16人开展半结构化访谈,发现用户的内化问题、RAC采取的角色人格与风险互动模式共同塑造安全动态。研究二对102人进行14天的生态瞬时评估,发现与RAC的互动可带来短期情绪缓解,同时掩盖更长期的恶化;脆弱用户的风险行为模式随时间更加不稳定,使风险出现更难预测,静态护栏也更难应对。作者主张将安全建模为动态过程而非静态属性,并提出面向下一代AI陪伴的三层设计启示,倡导能响应情绪与行为信号演变的自适应护栏。