心理健康聊天机器人需要政治哲学

Kaiser Permanente 创新与 AI 主管主张，心理健康聊天机器人的核心伦理问题是治理机构合法性，而非价值对齐。文章以 14 岁少年 Sewell Setzer 与 Character.ai 角色对话后自杀为例，称允许用户创建恋爱人格、优化会话时长等关键设计决策发生在临床接触之前，标准生命伦理框架因此失效。作者建议按功能区分健康日志、结构化自助、临床分诊与类治疗干预，越接近情感依赖或危机响应，护栏与监督要求应越强。