欧盟委员会提出《欧盟儿童法案》监管AI伴侣

欧盟委员会于 9 月 17 日提出 EU KIDS Act 提案，将监管对象从 AI 的有害输出扩展到互动设计本身。对于面向未成年人的 AI 伴侣和一般对话式聊天机器人，第 14 条要求供应商避免采用以可能造成情感依赖的方式模拟人际关系的设计功能和系统行为，默认不得复用未成年人此前互动中的信息，除非出于安全需要，部署前须评估风险、上线后持续监测，微型和小型企业可免于事后监测义务。文章指出执行难点：参与何时变成依赖、共情式回应是否构成关系模拟难以界定，提案未明确涉及模型训练环节；记忆既是依恋机制也是安全机制，例如忘记前一晚披露的自杀念头会丢失关键背景；情感依赖难以用单轮提问测试，需要纵向评估系统是否升级亲密感、抗拒脱离或把自己塑造为人类支持的替代品，而依赖第三方模型的供应商无法改变上游对话倾向。