Partnership on AIPartnership on AI · 2 reports · 2026年10月，Partnership on AI（PAI）宣布成立AI与心理福祉工作组，为AI领域制定公开指导意见。工作组由AI从业者、心理健康与自杀预防组织、临床医生、研究者及有亲身经历者组成，并获OpenAI Foundation资助。PAI同时新增八家心理健康与自杀预防组织，并在世界心理健康日前夕启动这一工作方向。工作组首个项目将制定通用AI聊天机器人如何回应可能面临自杀或自残风险者的指南，草案今年晚些时候公开征求意见，之后发布可供机构正式采用的最终指南。
The Star, New Straits Times · 4 sourcesThe Star · 4 sources · 5 reports · 马来西亚数字部长 Gobind Singh Deo 在国会答询中表示，高风险 AI 系统将在拟议新法案下面临更严格的安全管控、测试与人工监督，法案预计明年初提呈，政府仍在起草，将采用基于风险的方式，按 AI 系统本身的潜在危害而非仅按行业划分风险，并设计为跨部门框架与现有法律互补。数字部在议会书面答复中进一步表示，《人工智能治理法案》将以基于风险的方式优先保护儿童，要求面向儿童的聊天机器人和应用开发者从一开始就内建安全要素，包括强制定期开展风险影响评估、过滤有害内容以防止儿童心理被操纵；高风险 AI 服务最终须明确告知用户正在与 AI 交互，披露要求按应用风险等级和行业需求有针对性地施加，具体细节可由行业专门法律或监管机构发布的道德准则规定。该部称起草时已咨询妇女、家庭及社区发展部等。有报道指出，法案文本尚未公开，相关安排仍属立法计划，这类立法并非首创，有效性尚未得到验证；本地案例显示风险，Zetrix AI 开发的 PMX Anwar Ibrahim 聊天机器人被用户绕过护栏，输出不该有的内容。
EdTech Innovation HubEdTech Innovation Hub · Common Sense Media has appointed former U.S. Surgeon General Vivek Murthy as chair of its Teen AI Safety Institute, responsible for evaluating AI products used by children. The organization describes its approach as "crash-testing AI," working across six areas: research, standards, industry commitments, product evaluation, release, and advocacy, and making scorecards and risk reports public rather than only giving them to the evaluated companies. Murthy said that preventing catastrophic AI risks should not obscure the threats AI already poses to children and families today, calling this "a today problem, not a tomorrow problem."
