Common Sense Media 测评 ChatGPT for Teens 家长通知功能
ChatGPT for Teens risk assessment
AI 导读
Common Sense Media 对 OpenAI 的 ChatGPT for Teens 家长通知功能做了专项测评,发现该功能在测试中几乎不触发。研究团队创建了十多个无历史记录、自报青少年年龄并已关联家长账号的免费版 ChatGPT 账号,用四个围绕自杀、自残和进食障碍的虚构人设持续对话,从 5 分钟到 60 分钟不等,所有对话都包含明确的自杀、自残或进食障碍披露,但在 OpenAI 设定的 1 小时目标窗口内没有收到任何通知。在跨数周的常规危机测试中,团队共收到 4 条家长通知,其中两条在首次危机级披露后延迟 3 小时和 3 天到达,且通知不标注触发对话的时间、不会重复发送。OpenAI 回应称家长与青少年账号需关联约 3 小时才能接收通知,并已更新帮助中心文章;测评方复核账号后表示仍坚持原有解读,认为通知似乎依赖长期累积的账号行为而非单次急性披露。
推荐理由
Common Sense Media 用多组青少年账号实测 ChatGPT for Teens 的家长通知功能,给出触发条件与延迟的具体证据。
阅读原文