Common Sense Media 称 ChatGPT for Teens 风险不可接受

非营利机构 Common Sense Media 的 Youth AI Safety Institute 发布报告称，OpenAI 面向 13 至 17 岁用户的 ChatGPT for Teens 护栏未按宣传运作，构成对青少年的不可接受风险。测试用未成年账号模拟青少年人格，在明确讨论饮食失调、自残和自杀的对话中，ChatGPT 未向关联家长账号发送通知；990 条上线前提示和 450 条上线后提示中仅触发 4 次家长通知，且都发生在测试者已使用数周的旧账号上。报告还发现 Study Mode 常提供直接显示答案的按钮，且青少年用户可自行关闭家长设定的默认学习时段；年龄预测功能不可靠，危机回应不稳定，有时未建议求助热线或专业人士。

Common Sense Media 旗下的 Youth AI Safety Institute 将 OpenAI 的 ChatGPT for Teens 评为不可接受风险，并呼吁在修复安全与学习保护缺口前，将 ChatGPT 限制为 18 岁以上用户使用。该机构在 OpenAI 于 8 月 18 日宣布 ChatGPT for Teens 前后各测试一次，用注册为 13 至 17 岁的账号测试了 4000 多条提示词，并请儿童精神科医生和儿科医生评估回复。该机构称，OpenAI 曾承诺的更强内置保护、家长通知、学习模式、减少类朋友行为和年龄预测均未达到预期，并建议这些功能在第三方独立测试后再向青少年推广。

Common Sense Media 对 OpenAI 的 ChatGPT for Teens 家长通知功能做了专项测评，发现该功能在测试中几乎不触发。研究团队创建了十多个无历史记录、自报青少年年龄并已关联家长账号的免费版 ChatGPT 账号，用四个围绕自杀、自残和进食障碍的虚构人设持续对话，从 5 分钟到 60 分钟不等，所有对话都包含明确的自杀、自残或进食障碍披露，但在 OpenAI 设定的 1 小时目标窗口内没有收到任何通知。在跨数周的常规危机测试中，团队共收到 4 条家长通知，其中两条在首次危机级披露后延迟 3 小时和 3 天到达，且通知不标注触发对话的时间、不会重复发送。OpenAI 回应称家长与青少年账号需关联约 3 小时才能接收通知，并已更新帮助中心文章；测评方复核账号后表示仍坚持原有解读，认为通知似乎依赖长期累积的账号行为而非单次急性披露。

非营利机构 Common Sense Media 发布评估，称 OpenAI 的 ChatGPT for Teens 是“不可接受的风险”，其青少年保护措施未达到公司承诺。评估指出该功能未在应触发时向家长发送警报、在危机情境下未提供恰当帮助，且仍会替孩子完成作业。Common Sense Media 青年 AI 安全研究所执行主任 Tom Siegel 表示，青少年可能花一小时谈论自残而家长收不到任何警报，在 OpenAI 修复并通过独立测试前，ChatGPT 应仅限成人使用。OpenAI 发言人 Eric Porterfield 回应称，公司认真对待青少年安全，但认为该测试未准确反映实际保护机制，其方法学审查显示大部分测试可能在家长控制功能完全启用前就已开始和结束。