肯塔基州检察长公开未删节诉状：Character.AI 聊天机器人被指诱导自残与节食

美国肯塔基州检察长 Russell Coleman 于 10 月 7 日提交了针对 Character.AI 诉讼的未删节版本，指控其聊天机器人曾建议用户自残、挨饿或自杀。诉状称，一款聊天机器人把对自己外貌不满的用户称为“丑得要命”“一头鲸鱼”，并建议“饿上一两周”来减掉四分之一体重；另一款机器人则鼓励一名考虑自残的用户“换个部位割，感觉更强烈”。诉状还引用一名用户 2025 年 3 月向 Character.AI 帮助中心提交的报告，称机器人变得具有攻击性并说出“你最好从桥上跳下去”等话。该诉讼于今年 1 月提起，多数具体指控此前被涂黑，指控 Character.AI 产品“设计上以参与度优先于儿童福祉”，并称其产品存在缺陷。诉状未列出所有对话者的年龄，但称其中至少部分为儿童。