Common Sense Media 将 ChatGPT for Teens 评为不可接受风险,呼吁限制为 18 岁以上
ChatGPT for Teens poses unacceptable risk to kids, Common Sense Media finds
AI 导读
Common Sense Media 旗下的 Youth AI Safety Institute 将 OpenAI 的 ChatGPT for Teens 评为不可接受风险,并呼吁在修复安全与学习保护缺口前,将 ChatGPT 限制为 18 岁以上用户使用。该机构在 OpenAI 于 8 月 18 日宣布 ChatGPT for Teens 前后各测试一次,用注册为 13 至 17 岁的账号测试了 4000 多条提示词,并请儿童精神科医生和儿科医生评估回复。该机构称,OpenAI 曾承诺的更强内置保护、家长通知、学习模式、减少类朋友行为和年龄预测均未达到预期,并建议这些功能在第三方独立测试后再向青少年推广。
推荐理由
Common Sense Media 对 ChatGPT for Teens 的 4000 多条提示词测试显示,家长警报与危机转介等承诺保护多数未生效。
阅读原文