Skip to content

Translation in progress Some entries still include text in the original language.

Futurism·Indexed by this site · Originally publishedSelectedAttention57

Common Sense Media testing found that guardrails such as parent notifications for ChatGPT for Teens did not work as promised.

Futurism报道ChatGPT青少年安全报告

AI summary

非营利机构 Common Sense Media 的 Youth AI Safety Institute 发布报告称,OpenAI 面向 13 至 17 岁用户的 ChatGPT for Teens 护栏未按宣传运作,构成对青少年的不可接受风险。测试用未成年账号模拟青少年人格,在明确讨论饮食失调、自残和自杀的对话中,ChatGPT 未向关联家长账号发送通知;990 条上线前提示和 450 条上线后提示中仅触发 4 次家长通知,且都发生在测试者已使用数周的旧账号上。报告还发现 Study Mode 常提供直接显示答案的按钮,且青少年用户可自行关闭家长设定的默认学习时段;年龄预测功能不可靠,危机回应不稳定,有时未建议求助热线或专业人士。

Why it was selected

第三方对 ChatGPT for Teens 的独立测试显示,其家长通知与学习模式等承诺的护栏在危机对话中未按预期触发。

Read originalfuturism.com