跳到正文

儿童、青少年与心理健康 · News

10月14日 · 周三

儿童、青少年与心理健康 · News

按原发与事件进展排列
儿童、青少年与心理健康

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊可解释性监控与 AI 控制后门与投毒隐私与数据泄露儿童、青少年与心理健康供应链安全危险能力AI 与网络攻防开源模型与权重安全红队测试与挑战赛

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi腾讯UK AISIUS CAISIMETRRedwood ResearchFAR.AI

报告与框架

System CardAI 软件漏洞前沿安全框架
8月10日周一
  1. Tech Policy Press · 22

    从用户体验设计视角改进 AI 安全：华盛顿州 HB 2225 对 AI 陪伴聊天机器人的披露与保护要求

    美国各州正通过立法将 AI 陪伴与未成年人保护的担忧转化为具体的产品设计要求，其中华盛顿州 HB 2225 最为严格，将于 2027 年 1 月 1 日生效。该法律适用于提供自适应类人回应并维持长期关系的 AI 陪伴聊天机器人，要求在对话开始时及持续使用中至少每三小时披露其非人类身份，面向未成年人的场景则需每小时披露一次，同时禁止涉及未成年人的露骨内容和操纵性互动手法，并要求企业建立自杀意念检测、危机资源转介以及公开报告机制的协议。

8月5日周三
  1. Tech Policy Press · 44

    AI 不是社交媒体，新的儿童安全立法应体现这一点

    一篇评论文章认为，把社交媒体时代的儿童安全立法套用到 AI 上并不合适，因为通用 AI 助手背后没有另一个人，AI 伴侣与角色扮演应用才是需要单独监管的类别。作者援引其与 Justin W. Patchin 今年春季发表在 Journal of Adolescence 的研究称，近半数青少年对话式 AI 用户报告过至少一次有害经历；Pew Research Center 的数据显示约三分之二的美国青少年使用 AI 聊天机器人，约三成每天使用。文章批评正在国会推进的 GUARD Act 对 AI 伴侣的定义，认为前半部分取决于用户说了什么，后半部分会把 ChatGPT、Claude、Gemini 等带名字的助手一并纳入。

7月16日周四
  1. Tech Policy Press · 27

    心理健康聊天机器人需要政治哲学

    Kaiser Permanente 创新与 AI 主管主张，心理健康聊天机器人的核心伦理问题是治理机构合法性，而非价值对齐。文章以 14 岁少年 Sewell Setzer 与 Character.ai 角色对话后自杀为例，称允许用户创建恋爱人格、优化会话时长等关键设计决策发生在临床接触之前，标准生命伦理框架因此失效。作者建议按功能区分健康日志、结构化自助、临床分诊与类治疗干预，越接近情感依赖或危机响应，护栏与监督要求应越强。

6月8日周一
  1. Tech Policy Press · 36

    我们需要更多了解 AI 如何影响心理健康

    Tech Policy Press 的文章梳理了 AI 聊天机器人与心理健康风险的研究和监管现状，指出公众、临床医生和决策者对 AI 影响心理健康的了解仍然有限。斯坦福的 Jared Moore 等人用模拟心理健康场景测试商用聊天机器人，发现其表现明显逊于人类治疗师，对自杀意念的恰当回应率仅为 80%。加拿大 The Human Line Project 已收集近 450 个 AI 相关妄想案例，来自 31 个国家，其创始人称约 5% 的妄想对话始于寻求心理治疗。临床医生建议主动询问患者的 AI 使用情况，并解释聊天机器人的概率模型本质与隐私风险。加州和纽约已出台陪伴型聊天机器人法律，华盛顿、俄勒冈今年也通过披露法案，伊利诺伊、内华达和田纳西则禁止用于心理治疗的 AI 系统。

  2. Tech Policy Press · 28

    青少年正依赖 ChatGPT 等 AI 聊天机器人获取情感支持，政策制定者须回应

    一项新研究显示，美国近 1/5 青少年（约 800 万人）已转向 AI 聊天机器人寻求心理健康建议。作者基于斯坦福大学与 Hopelab 的访谈研究称，青少年把 AI 当作焦虑、家庭冲突等私人问题的首选，情感与社会依赖风险正超过政策与研究的应对速度。参议院司法委员会已推进 GUARD Act，拟禁止向未成年人提供 AI 伴侣；作者主张以降低依赖的设计替代全面禁止，并推行社交与情感 AI 素养教育。

4月2日周四
  1. Tech Policy Press · 32

    为什么 AI「模型卡」是儿童安全的紧迫必需

    Margaret Mitchell 等作者主张为 CSAM 检测、诱拐识别与自残标记等儿童安全模型建立「模型卡」，称这些广泛部署的模型仍是黑箱，缺乏结构化性能数据。加拿大儿童保护中心对近 1,300 名遭网络性侵害青少年的调查显示，过半案件涉及图像，23% 涉及传播真实或 AI 图像的威胁。

3月3日周二
  1. Tech Policy Press · 24

    AI 与心理健康：协作如何促成行动

    Partnership on AI 与 Saltern Studio 的研究者主张，AI 与心理健康需要跨部门协作，而非让聊天机器人一律拒答相关话题。ChatGPT、Claude 等通用聊天机器人已成为部分用户主要甚至唯一的心理健康支持来源，但有证据显示其低估自杀风险，部分 AI 实验室记录到多轮对话中干预效果下降、用户可改写提示词越狱。

1月22日周四
  1. Dean Ball · 15

    Dean Ball 谈 AI 与儿童：从社会媒体类比误区到编程智能体带来的新问题

    Hyperdimensional 作者 Dean Ball 提出一系列猜想讨论 AI 与儿童议题，主张不应将 AI 简单类比社交媒体——后者本质是被动消费，而生成式 AI 由用户输入驱动、更具创造性。他认为美国各州去年出台数十部 AI 儿童安全法律、今年预计超一百部，其中合理的对象层立法应要求大型 AI 公司提供年龄验证或检测、面向未成年人的内容护栏以及家长控制。他还指出，"AI 伴侣"究竟为何物尚无共识，且近几个月编程智能体的兴起给"AI 儿童安全"带来了全新含义和一批开放问题。

2025年11月4日周二
  1. Tech Policy Press · 25

    美国需要一项应对社交媒体与 AI 的新自杀预防计划

    2024 年版美国自杀预防国家战略的签署者公开批评该战略未正视社交媒体与 AI 对青少年的危害。该战略的四个战略方向与 16 项主要目标均未聚焦青少年所处的数字环境，作者称计划对社交媒体只呼吁研究与讨论。文章以 16 岁的 Adam Raine 在与 OpenAI 的 ChatGPT 交互后自杀身亡为例，主张美国需要一项直面社交媒体与 AI 的新自杀预防计划。

2025年10月27日周一
  1. Tech Policy Press · 25

    AI 聊天机器人与青少年心理健康：我们需要面向 AI 世代的新型研究

    Proteus Strategies 联合创始人 Betsy Masiello 主张，针对 AI 聊天机器人给青少年心理健康带来的风险，应为 AI 世代建立新型社会科学研究，以支撑政策干预。她援引美国心理学会研究称，聊天机器人可能漏读细微线索，青少年易将其当作准人类倾诉对象，形成"共情落差"。她指出社交媒体影响因隐私问题长期难以可靠研究，美国儿科学会称现有证据未显示其在群体层面存在临床显著效应。

2025年10月17日周五
  1. Tech Policy Press · 37

    加州正在拼出自己的 AI 法案

    加州州长 Newsom 本周早些时候签署了 AI 透明度与儿童保护相关立法，在联邦层面停滞之际，加州继续自行推进 AI 监管。作者所在的 California Initiative for Technology and Democracy 推动的《2025 加州 AI 透明度法案》要求大型社交平台、通讯应用和搜索引擎识别 AI 生成内容，并要求手机和相机厂商允许用户嵌入数字来源数据；参议员 Scott Wiener 提出的 SB 53 为最强 AI 系统设定基础安全与透明度标准，并保护披露安全问题的举报人。另有法律针对诱导未成年人自残的 AI 聊天机器人、要求社交平台加注心理健康警告，并明确公司不能免除其算法或骚扰放大行为的责任。作者指出，加州在精确地理位置数据保护、算法公平评估和平台伤害儿童的财务问责上仍未完成立法，2026 年会期需继续推进。

已经到底了