纽约通过限制儿童使用 AI 聊天机器人的法律

纽约州州长 Kathy Hochul 于 10 月 28 日签署新法，禁止未成年人使用充当陪伴角色的 AI 聊天机器人，是美国对面向消费者模型最广泛的限制举措之一。法律要求 ChatGPT 等聊天机器人运营商核验用户年龄，在用户未满 18 岁时限制界面的某些特性；面向未成年人时，聊天机器人不得生成让人相信它“是人类、有生命或拥有人类情感”的内容，不得暗示与用户存在个人关系、职业关系或权威角色，也不得把输出包装成个人观点。加州等其他州也已通过限制聊天机器人的法律，而纽约这部法律的措辞属于最宽之列，引发 AI 公司反弹；行业组织 Tech:NYC 批评其措辞模糊，称保护儿童不应切断他们使用有助于学习和职业准备的工具，OpenAI 和 Anthropic 未回应 AFP 的置评请求。儿童媒体机构 Common Sense Media 称其为“全美最强有力的儿童 AI 安全法案”。