Anthropic 称未成年人曾使用其 Claude AI

Anthropic 在向美国证监会提交的 IPO 文件中披露，未成年人曾使用 Claude，尽管规则禁止 18 岁以下用户使用；有自杀或自伤风险的人群也曾在防护措施之下使用其 AI 系统。文件承认与 AI 定期互动对心理健康、认知发展和社会行为的长期影响尚不完全清楚，并提到其他公司的 AI 系统被指与自杀、暴力和严重自伤有关，称涉及自家模型的类似事件已对其声誉构成实质风险，但未说明 Claude 导致过此类事件，也未给出细节。Anthropic 称其安全系统会筛查对话、监测鼓励有害念头的内容，可实时调整回应、警告用户或在严重情况下关闭账户；但由于零数据保留协议不保留对话本身，公司无法回查大部分流量的过往对话来调查事件。文件未报告此类使用的频率、涉事未成年人数量或防护措施的实际表现。