纽约州长 Hochul 签署新法，禁止 AI 聊天机器人对 18 岁以下用户假装人类或提供不安全功能

纽约州州长 Kathy Hochul 周三签署法案，禁止 AI 聊天机器人向 18 岁以下用户提供被认定不安全的功能，包括假装人类、声称与儿童存在私人、恋爱或职业关系。法案从 1 月 1 日起要求企业验证用户年龄，并提供多种验证方式，其中至少一种不能只依赖政府身份证件。被禁功能还包括宣扬自杀或自残、提供色情内容，以及未经提示就向儿童提出情感问题。州总检察长可对每次违规寻求最高 2.5 万美元的民事罚款，并可要求销毁非法收集的数据或用这些数据训练的 AI 模型。Common Sense Media 的调查显示，13 至 17 岁青少年中有 72% 使用过 AI 陪伴产品，52% 是每月至少互动数次的常规用户。