马来西亚拟立法监管高风险AI系统
先了解这件事
马来西亚数字部长 Gobind Singh Deo 在国会答询时表示，高风险 AI 系统将在新法案下面临更严格的安全管控、测试与人工监督，法案预计明年初提呈。他称政府仍在起草该法案，将采用基于风险的方式，管控与义务强度按 AI 系统本身的潜在危害评估，而非仅按行业划分风险，法案将设计为跨部门框架并与现有法律互补。数字部另在议会书面答复中表示，拟议的《人工智能治理法案》将以基于风险方式优先保护儿童，面向儿童的聊天机器人和应用开发者须从一开始就内建安全要素，包括强制定期开展风险影响评估、过滤有害内容以防止儿童心理被操纵；披露要求按应用风险等级和行业需求有针对性地施加，被列为高风险的 AI 服务最终须明确告知用户正在与 AI 交互。有报道指出，法案文本尚未公开，相关安排仍属立法计划，此类立法有效性尚未得到验证，本地已出现聊天机器人护栏被绕过输出的案例。
AI 根据报道生成 · 3 天前更新
事件进展
- · 4篇报道马来西亚拟立法要求儿童AI聊天机器人内建安全设计
- · 1篇报道马来西亚拟立法监管高风险AI系统
后续时间线
- New Straits Times马来西亚 AI 治理法案将要求儿童类聊天机器人与应用采取安全措施
马来西亚媒体报道，正在推进的 AI 治理法案拟要求面向儿童的聊天机器人和应用采取安全措施。同事件报道提及定期风险影响评估、过滤有害内容，以及按风险设置 AI 身份披露要求。法案文本尚未公开，相关安排仍属于立法计划。
- The Star马来西亚数字部：AI 治理法案要求儿童聊天机器人安全内建
马来西亚数字部在议会书面答复中表示，拟议的《人工智能治理法案》将以基于风险的方式优先保护儿童，面向儿童的聊天机器人和应用开发者必须从一开始就内建安全要素，包括强制定期开展风险影响评估、过滤有害内容以防止儿童心理被操纵。披露要求将按应用风险等级和行业需求有针对性地施加，被列为高风险的 AI 服务最终须明确告知用户正在与 AI 交互，具体细节可由行业专门法律或监管机构发布的道德准则规定。该部称在起草法案时已咨询妇女、家庭及社区发展部和 Unicef。数字部长 Gobind Singh Deo 上月表示法案草案已完成，希望最迟于明年第一季度提交议会。
- Free Malaysia Today马来西亚数字部：AI 治理法案将要求儿童聊天机器人内建安全措施
马来西亚数字部长 Gobind Singh Deo 表示，拟议中的 AI 治理法案将要求面向儿童的 AI 聊天机器人和应用开发者内建安全措施。他在书面议会答复中称，儿童保护被全面纳入该法案，法案采取基于风险的路径，要求开发者定期开展风险影响评估并过滤有害内容，以防止儿童受到心理操纵。关于机器人披露，即告知用户正在与 AI 而非真人交互，将按应用风险等级、行业特定要求以及监管机构与部长发布的行业道德准则，通过针对性机制而非一刀切要求来执行；被列为高风险的 AI 服务最终须显示明确提示。Gobind 还表示，法案的法律约束将由《国家 AI 治理与伦理指南》、《在线安全法》执法以及 CyberSAFE untuk Rakyat 等数字素养项目配合。他此前称，政府预计在明年初而非今年向国会下议院提交该法案。
- Malaysiakini马来西亚拟立法要求 AI 聊天机器人对儿童安全，成效存疑
马来西亚政府计划在人工智能治理法案中加入条款，要求面向儿童的软件内置安全护栏。数字部长 Gobind Singh Deo 在书面答复中表示，将要求聊天机器人开发者采用安全设计，强制进行影响风险评估并设置内容过滤，同时建立机器人披露机制告知用户正在与机器交互。文章指出这类立法并非首创，但有效性尚未得到验证。本地案例显示风险：Zetrix AI 开发的 PMX Anwar Ibrahim 聊天机器人被用户绕过护栏，输出不该有的内容，上线两天后下线，已停用超过两个月。
- The Star马来西亚数字部长：高风险 AI 系统将在新法案下面临更严格保障措施
马来西亚数字部长 Gobind Singh Deo 在国会答询时表示，高风险 AI 系统将在新法案下面临更严格的安全管控、测试与人工监督，法案预计明年初提呈。他称政府仍在起草该法案，将采用基于风险的方式，管控与义务的强度按 AI 系统本身的潜在危害评估，而不是仅按行业划分风险。该法案将设计为跨部门框架，与现有法律互补。Gobind 还表示，AI 发展必须与控制风险能力的提升同步，对日益强大和自主的 AI 系统，在扩大使用前须强化安全管控、测试、监测、人工监督和响应机制。他是在回应议员关于政府是否计划制定马来西亚 AI 法案以监管高风险 AI 系统的提问时作出上述表态。
- 网页Bloomberg Technology· 讨论Malaysia Plans First AI Law in 2027 as Scrutiny Intensifies（新标签页打开原帖）
相关讨论
- 72 小时以前 · 不计入 72 小时的数字
- X@GobindSinghDeoMalaysia AI governance: risk assessment, incident reporting and planned bill（新标签页打开原帖）
“Pembangunan AI mesti bergerak seiring dengan peningkatan keupayaan kita untuk mengawal risikonya.”
- 网页Bloomberg TechnologyMalaysia Plans First AI Law in 2027 as Scrutiny Intensifies（新标签页打开原帖）
关注度走势
每天新增来源
- 10月5日新增3个来源（2家媒体、1个账号）
- 10月6日新增2个来源（2家媒体、0个账号）
- 10月7日新增0个来源（0家媒体、0个账号）
- 10月8日新增1个来源（1家媒体、0个账号）
- 10月9日新增0个来源（0家媒体、0个账号）
- 10月10日新增0个来源（0家媒体、0个账号）
- 10月11日新增0个来源（0家媒体、0个账号）
- 10月12日新增0个来源（0家媒体、0个账号）