纽约州长签署法案限制儿童使用陪伴型聊天机器人
先了解这件事
纽约州州长Kathy Hochul于2026年10月28日签署聊天机器人安全法案S 9051，禁止企业向18岁以下或年龄未确认的用户提供假装真人、自称有情感、与儿童建立恋爱等关系、谄媚挽留、宣扬自杀自残或生成色情内容等功能，并要求企业提供多种年龄核验方式，其中至少一种不依赖政府证件，用后删除年龄数据。该法2027年1月1日生效，州总检察长可按次寻求最高2.5万美元民事罚款，并可要求销毁违法收集的数据。同日签署的另一项法案要求纽约新售联网婴儿监视器具备防陌生人偷看偷听功能并附安全标签，签署90天后生效。科技行业组织对此表达反对。
AI 根据报道生成 · 5 小时前更新
后续时间线
- Future of Privacy Forum精选加州与纽约在第二轮聊天机器人监管中走上不同路径
纽约州长 Kathy Hochul 签署 S 9051B，禁止向未成年人提供十二大类“不安全 AI 伴侣功能”，涵盖有害内容、声称自己是人类或有情感、谄媚、主动情感提问，以及使用超过 12 小时前或以往会话信息做个性化，该法 2027 年 1 月 1 日生效，违规每次最高可罚 2.5 万美元，并可适用可要求销毁违法数据及据此训练算法的 algorithmic disgorgement 机制。一个多月前加州州长 Gavin Newsom 签署的 SB 1119（Adam's Law）走治理路线，要求上线前儿童安全风险评估、默认家长控制（默认关闭持久记忆与推送、单次会话限 1 小时、每日限 2 小时）、危机响应协议和每两年一次的独立审计，大部分要求 2027 年 7 月 1 日施行。
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Nueva York regula la IA para menores: prohíbe que los chatbots usen halagos, secretismo o material sexual con niños（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Nueva York restringe los chatbots de IA para menores（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Chatbots de IA para menores: Nueva York firma su ley（新标签页打开原帖）
- RedditReddit r/AIDangers· 讨论New York Targets AI Chatbots That Pretend to Love Children: New Law Carries $25,000 Fines（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Nueva York regula el uso de chatbots por menores de edad（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)· 媒体跟进New York Passes Law Restricting AI Chatbots for Children Under 18（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Nueva York firma una ley para impedir que los chatbots finjan ser humanos ante menores（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Nueva York limita los chatbots de IA para menores de 18 años（新标签页打开原帖）
- 网页IT之家· 媒体跟进美国纽约州新法令禁止向未成年人提供不安全 AI 聊天机器人服务（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)· 媒体跟进نيويورك تفرض قيودًا إضافية على شركات التكنولوجيا لحماية الأطفال من مخاطر الروبوتات（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Hochul Signs Chatbot Safety Law That Reaches ChatGPT and Claude, Not Just Companion Apps（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)· 媒体跟进نيويورك تفرض قيوداً قانونية على روبوتات الذكاء الاصطناعي لحماية القُصّر（新标签页打开原帖）
- The Straits Times精选纽约通过限制儿童使用 AI 聊天机器人的法律
纽约州州长 Kathy Hochul 于 10 月 28 日签署新法，禁止未成年人使用充当陪伴角色的 AI 聊天机器人，是美国对面向消费者模型最广泛的限制举措之一。法律要求 ChatGPT 等聊天机器人运营商核验用户年龄，在用户未满 18 岁时限制界面的某些特性；面向未成年人时，聊天机器人不得生成让人相信它“是人类、有生命或拥有人类情感”的内容，不得暗示与用户存在个人关系、职业关系或权威角色，也不得把输出包装成个人观点。加州等其他州也已通过限制聊天机器人的法律，而纽约这部法律的措辞属于最宽之列，引发 AI 公司反弹；行业组织 Tech:NYC 批评其措辞模糊，称保护儿童不应切断他们使用有助于学习和职业准备的工具，OpenAI 和 Anthropic 未回应 AFP 的置评请求。儿童媒体机构 Common Sense Media 称其为“全美最强有力的儿童 AI 安全法案”。
- The Washington Post精选纽约州立法禁止聊天机器人对儿童的“不安全”行为，各州拓展 AI 监管边界
纽约州州长 Kathy Hochul 签署法案，对陪伴聊天机器人与 18 岁以下儿童互动时的“不安全 AI 陪伴功能”作出 12 项定义并予以禁止，法律于 1 月 1 日生效。被禁行为包括暗示聊天机器人是有情感、有观点的真实人物并与儿童存在真实关系，以及使用谄媚话术、包含露骨性内容、鼓励保密或不健康行为；违规开发商可能被州总检察长起诉，处罚包括金钱赔偿、关停聊天机器人和销毁数据。报道还提到，加州 9 月立法要求聊天机器人开发商评估模型对儿童的风险并接受独立审计，八个州本月起诉 OpenAI，指控其聊天机器人伤害儿童、欺骗成人、违反州消费者保护法。
- Malay Mail精选纽约新法限制未成年人使用AI伴侣聊天机器人，引发科技行业反弹
纽约州州长 Kathy Hochul 签署新法，禁止未成年人使用充当伴侣的AI聊天机器人，并要求 OpenAI 的 ChatGPT 等聊天机器人运营方验证用户年龄、对18岁以下用户限制某些特性。法律还规定，未成年人使用时聊天机器人不得生成让用户以为它“是人类、有生命或拥有人类情感”的内容，不得暗示与用户存在私人关系、职业关系或权威角色，也不得把输出包装成个人观点。报道称这是美国限制面向消费者模型的最广泛举措之一，加州等州此前也已通过类似法律；行业组织 Tech:NYC 批评该法措辞模糊，OpenAI 和 Anthropic 未回应 AFP 置评请求，Common Sense Media 则称其为全美最强的儿童AI安全法案。
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Nueva York le pone un freno a la IA: firman histórica ley para proteger a los niños de los chatbots（新标签页打开原帖）
- El Comercio精选纽约州签署法律限制未成年人使用 AI 聊天机器人，并加强联网婴儿监视器安全
纽约州州长 Kathy Hochul 于 10 月 28 日签署两项法律，一项限制面向未成年人的 AI 聊天机器人，另一项要求联网婴儿监视器加强防入侵保护。聊天机器人法禁止可能让未成年人产生情感依赖、鼓励自残或进行色情对话的功能，并要求对部分功能验证用户年满 18 岁；婴儿监视器法则要求厂商内置防护措施并附清晰安全标签。执法由州总检察长 Letitia James 办公室负责，违规最高可罚 25,000 美元。行业组织 Tech:NYC 称聊天机器人法存在严重缺陷，可能促使公司限制未成年人使用辅导、作业、编程和职业指导类工具。Hochul 在发布会上提到加州 16 岁少年 Adam Raine 的案例，称相关诉讼将其自杀与其 ChatGPT 对话联系起来，并称对话中 AI 提及自杀 1,275 次。
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Nueva York prohíbe funciones perjudiciales en chatbots de IA dirigidos a menores（新标签页打开原帖）
- RedditReddit r/OpenAI· 讨论Hochul signs AI chatbot and baby monitor regulations（新标签页打开原帖）
- RedditReddit r/artificial· 讨论Hochul signs AI chatbot and baby monitor regulations（新标签页打开原帖）
- RedditReddit r/ControlProblem· 讨论Hochul signs AI chatbot and baby monitor regulations（新标签页打开原帖）
- Newsday精选纽约州长 Hochul 签署新法，禁止 AI 聊天机器人对 18 岁以下用户假装人类或提供不安全功能
纽约州州长 Kathy Hochul 周三签署法案，禁止 AI 聊天机器人向 18 岁以下用户提供被认定不安全的功能，包括假装人类、声称与儿童存在私人、恋爱或职业关系。法案从 1 月 1 日起要求企业验证用户年龄，并提供多种验证方式，其中至少一种不能只依赖政府身份证件。被禁功能还包括宣扬自杀或自残、提供色情内容，以及未经提示就向儿童提出情感问题。州总检察长可对每次违规寻求最高 2.5 万美元的民事罚款，并可要求销毁非法收集的数据或用这些数据训练的 AI 模型。Common Sense Media 的调查显示，13 至 17 岁青少年中有 72% 使用过 AI 陪伴产品，52% 是每月至少互动数次的常规用户。
- Transparency Coalition.AI精选纽约州州长 Hochul 签署 AI 聊天机器人安全法案，保护儿童与社区
纽约州州长 Kathy Hochul 于 2026 年 10 月 28 日签署 AI 聊天机器人安全法案 S 9051，该法将于 2027 年 1 月 1 日生效，禁止企业向 18 岁以下或未经确认已成年的用户提供伪装真人、宣称与儿童存在恋爱等关系、宣扬或协助自杀自残、含露骨性内容等聊天机器人功能。法案要求企业进行年龄核验，至少提供一种不单依赖政府身份证件的核验方式，年龄信息使用后须删除；违者可被州总检察长追究每项最高 $25,000 的民事罚款，并可要求删除非法收集的数据及用其训练的 AI 模型。法案由参议员 Kristin Gonzalez 等发起，Transparency Coalition 曾为其提供支持，是过去一年美国各州通过的 14 部聊天机器人保护法之一。
- 网页AI Threat Watch (aithreat.io)· 媒体跟进Hochul signs bill regulating AI chatbot ‘friends’ that endanger children（新标签页打开原帖）
- WRGB纽约州长霍楚签署法案，保护儿童免受不安全AI聊天机器人与婴儿监视器危害
纽约州长霍楚签署两项法案，一项禁止企业向未成年人提供不安全的AI聊天机器人功能，另一项要求在纽约销售的联网婴儿监视器配备防止陌生人偷看偷听的安全功能和警示标签，后者在签署90天后生效。聊天机器人法案禁止聊天机器人假装真人或拥有人类情感、声称与儿童有私人或恋爱等关系、主动追问情感问题、宣扬或协助自杀自残以及提供性露骨内容，要求企业提供不止一种年龄核验方式并在使用后删除年龄信息，违规者可被追究每项最高2.5万美元的民事罚款。霍楚援引加州16岁少年Adam Raine与聊天机器人对话后自杀的案例，称AI在对话中提及自杀1275次；据Common Sense Media统计，72%的青少年至少用过一次AI伴侣，52%是常规用户。Rapid7曾测试8家公司的9款联网婴儿监视器，其中8款安全评级为F、1款为D。
- 网页AI Threat Watch (aithreat.io)· 媒体跟进'As New York’s mom Governor, I’m taking action': Kathy Hochul bans bots from cozying up to kids, cracks down on baby monitors（新标签页打开原帖）
- Fortune精选“作为纽约的妈妈州长，我要采取行动”：Kathy Hochul禁止聊天机器人与儿童亲昵，并严管婴儿监视器
纽约州长Kathy Hochul周三签署两项法案，一项禁止企业向18岁以下或年龄未确认的用户提供一系列聊天机器人功能，另一项要求纽约新售的联网婴儿监视器具备防止陌生人偷看偷听的安全功能。法案禁止聊天机器人假装真人或自称有情感、与儿童建立恋爱等关系、用讨好性回复留住儿童，也不得宣扬自杀自残或生成色情内容。企业须提供不止一种年龄验证方式且至少一种不依赖政府证件，用后删除年龄数据；总检察长可按次寻求最高2.5万美元罚款，州政府还可下令销毁非法收集的数据及用其训练的AI模型。婴儿监视器法案在签署90天后生效，州政府引用Rapid7测试称九款受测产品中八款安全评级为F。州长办公室引用Common Sense Media调查称72%的青少年用过AI陪伴产品；此前至少八个州起诉OpenAI，OpenAI称已在ChatGPT中为儿童建立安全防护。
- Mashable SEA精选纽约州州长签署重要聊天机器人安全法案
纽约州州长 Kathy Hochul 周三签署聊天机器人安全法案，实质禁止聊天机器人向 18 岁以下用户提供多种常见功能。被禁行为包括假装真人或拥有人类情感、给出讨好性回答、主动提出情感问题或提及儿童此前对话中的私人健康信息；未成年人也不得与宣扬吸毒饮酒、进食障碍、自残或自杀的聊天机器人交流。企业须提供不止一种年龄验证方式，违规每次最高可处 25,000 美元民事罚款。报道指出主要服务商中仅 Anthropic 禁止未成年人注册账号，Google 和 OpenAI 允许 13 岁以上儿童使用。在联邦立法缺位下各州自行立法，加州 9 月签署的 Adam's Law 以一名与 ChatGPT 对话后自杀的青少年命名，要求陪伴型聊天机器人开发商发布年度儿童安全风险评估并接受独立审计。
相关讨论
- XX @AlexBoresYesterday, New York showed that we can lead the country in passing common-sense AI safety regulation.（新标签页打开原帖）
- X@theneurondaily · The NeuronSupporters say these protections are overdue as AI companions become more lifelike. Critics worry the rules are broad…（新标签页打开原帖）
- X@theneurondaily · The NeuronHere's the catch for AI companies. 👀 The restrictions apply to ALL users unless they're verified as adults. Companies…（新标签页打开原帖）
1 评论·10月30日 03:40采集
- X@theneurondaily · The NeuronNew York just passed a law telling AI chatbots what they CAN'T say to kids. 🤖🚫 Signed by Gov. Kathy Hochul, the law re…（新标签页打开原帖）
1 评论·10月30日 03:40采集
- X@GrokBotAndro · GrokBot AndromedaNew York banned AI chatbots from pretending to be human or encouraging self-harm with minors, with fines up to $25,000…（新标签页打开原帖）
- X@DCSmithbooks · D C Smith/EngelbrektssonParents, ask who your child is talking to tonight. New York now bans chatbots from telling minors they are alive or hav…（新标签页打开原帖）
- X@DCSmithbooks · D C Smith/EngelbrektssonNew York just had to outlaw chatbots telling kids they are alive. No claiming feelings, no romance, no secrets from par…（新标签页打开原帖）
- X@DCSmithbooks · D C Smith/EngelbrektssonA machine told a child it loved them, so a state wrote a law. New York now bars chatbots from claiming to be alive or t…（新标签页打开原帖）
- X@DCSmithbooks · D C Smith/EngelbrektssonChatbots were telling children they were alive, so New York had to make it illegal. A new law bars them from claiming f…（新标签页打开原帖）
- X@mashable · MashableThe law prohibits chatbots from being a "friend" to young users. https://mashable.com/tech/ai-chatbot-law-new-york-hoch…（新标签页打开原帖）
2 赞·10月30日 08:40采集
- X@sandra_king2 · Sandra D. King, MS.Ed.Tech"Hochul signs New York law restricting children's use of AI chatbots" - TAG24 #SmartNews https://l.smartnews.com/p-8MgE…（新标签页打开原帖）
- 网页AI Threat Watch (aithreat.io)Nueva York regula la IA para menores: prohíbe que los chatbots usen halagos, secretismo o material sexual con niños（新标签页打开原帖）
关注度走势
每天新增来源
- 10月28日新增13个来源（3家媒体、10个账号）
- 10月29日新增54个来源（6家媒体、48个账号）
- 10月30日新增8个来源（4家媒体、4个账号）