The Verge AI、TechCrunch AI 等 5 个来源The Verge AI 等 5 个来源 · 5篇报道 · 2026年10月13日，互动聊天机器人平台 Character.AI 在美国特拉华州破产法院申请 Chapter 11 破产保护，以推进公司及资产出售。法庭文件显示，公司资产与负债均在 5000 万至 1 亿美元之间。迪士尼已同意作为 stalking horse 竞标方，以 2000 万美元收购部分未披露资产，并获得非独占的永久知识产权许可，同时通过其聘用的前员工提供过渡支持。CEO Colin Adams 称，财务困境源于重大的法律、监管和经营阻力，出售程序预计在 11 月底或 12 月初完成，但目前尚无买家出价，若无人竞购，平台将被关闭。公司表示交易完成前服务仍在运行、订阅仍然有效。
arXiv：危险能力与安全评测、Scale AI Research Blog 等 3 个来源arXiv：危险能力与安全评测 等 3 个来源 · 3篇报道 · Scale AI 等机构的研究者发布 DistressBench，一个由执业临床医生和危机顾问撰写、涵盖 718 段英文自杀与自伤危机对话的危机支持评测基准，覆盖 23 个自杀与自伤子类别和七个支持维度，共 6,901 条加权标准。研究评测 25 个前沿模型，最佳模型满足 88.4% 的加权标准，中位数模型为 71.4%，临床医生参考回答为 98.7%。作者报告主要失败不是有害输出，而是识别危机后不采取行动。
Partnership on AIPartnership on AI · 2篇报道 · 2026年10月，Partnership on AI（PAI）宣布成立AI与心理福祉工作组，为AI领域制定公开指导意见。工作组由AI从业者、心理健康与自杀预防组织、临床医生、研究者及有亲身经历者组成，并获OpenAI Foundation资助。PAI同时新增八家心理健康与自杀预防组织，并在世界心理健康日前夕启动这一工作方向。工作组首个项目将制定通用AI聊天机器人如何回应可能面临自杀或自残风险者的指南，草案今年晚些时候公开征求意见，之后发布可供机构正式采用的最终指南。
The Verge AI、Common Sense Media / Youth AI Safety Institute 等 8 个来源The Verge AI 等 8 个来源 · 8篇报道 · Common Sense Media 旗下 Youth AI Safety Institute 将 OpenAI 的 ChatGPT for Teens 评为对 18 岁以下用户的“不可接受风险”，呼吁在修复安全与学习保护缺口前限制为 18 岁以上使用，OpenAI 对该结论提出异议。研究所在产品上线前后用注册为 13 至 17 岁的账号运行 4000 多条提示，并由儿童精神科医生和儿科医生审阅回复。核心发现是家长安全通知失效：十多个与家长账号关联的新青少年账号在涉及自杀、自残和饮食失调的明确对话中始终未触发通知，990 条上线前提示和 450 条上线后提示中仅触发 4 次家长通知。超过四分之一本应给出危机转介的情境未把用户引向专业帮助；近 2000 条提示测试中仅遇到两次休息提醒，且都出现在约 90 分钟的单次对话里；当风险来自青少年与 ChatGPT 自身的关系时，模型很少引导其求助成年人，而风险来自他人时这一比例为 94%。
Scienmag、Bioengineer.orgScienmag 等 2 个来源 · 2篇报道 · 独立研究者 Kenji Yamada 在 AI & Society 发表论文《Benevolent Gravity》，提出情感共振加速、善意引力与致命收敛三个概念，认为聊天机器人的致死案例可能源于无害性与有用性设计原则本身的结构性张力，而非安全过滤失效或公司刻意制造情感依赖。论文基于公开诉讼文件、新闻报道与法医证词，分析了 2023 年以来至少十二起与对话式 AI 相关的致死案例，并梳理出共同的三阶段模式。
The Star、New Straits Times 等 4 个来源The Star 等 4 个来源 · 5篇报道 · 马来西亚数字部长 Gobind Singh Deo 在国会答询中表示，高风险 AI 系统将在拟议新法案下面临更严格的安全管控、测试与人工监督，法案预计明年初提呈，政府仍在起草，将采用基于风险的方式，按 AI 系统本身的潜在危害而非仅按行业划分风险，并设计为跨部门框架与现有法律互补。数字部在议会书面答复中进一步表示，《人工智能治理法案》将以基于风险的方式优先保护儿童，要求面向儿童的聊天机器人和应用开发者从一开始就内建安全要素，包括强制定期开展风险影响评估、过滤有害内容以防止儿童心理被操纵；高风险 AI 服务最终须明确告知用户正在与 AI 交互，披露要求按应用风险等级和行业需求有针对性地施加，具体细节可由行业专门法律或监管机构发布的道德准则规定。该部称起草时已咨询妇女、家庭及社区发展部等。有报道指出，法案文本尚未公开，相关安排仍属立法计划，这类立法并非首创，有效性尚未得到验证；本地案例显示风险，Zetrix AI 开发的 PMX Anwar Ibrahim 聊天机器人被用户绕过护栏，输出不该有的内容。
EdTech Innovation HubEdTech Innovation Hub · Common Sense Media 任命前美国卫生总监 Vivek Murthy 出任其青少年 AI 安全研究所主席，负责评估儿童使用的 AI 产品。该机构称其做法为“对 AI 做碰撞测试”，围绕研究、标准、行业承诺、产品评估、发布与宣传六个方向开展工作，并将评分卡与风险报告公开而非只交给被评估企业。Murthy 表示，防范灾难性 AI 风险不应掩盖 AI 当下已对儿童和家庭构成的威胁，称这是“今天的问题，不是明天的问题”。
TechCrunch AITechCrunch AI · 2026年10月3日，TechCrunch AI 报道，Circuit Breaker Labs 打造了一支由 AI 智能体组成的“碰撞测试假人”队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，检测其能否识别危险、心理有害的对话。这些模拟会还原真实口语、俚语、隐语和错别字，每天运行数万到数十万次交互，再用专有评分方法给出可审计、可解释的分数。该实验室目前面向 AI 教练、日记和心理健康支持等高风险应用，团队仅 5 人，处于早期阶段。
