Futurism investigation: large numbers of AI-generated violent child abuse videos on Facebook are not being taken down

Futurism 调查发现，Facebook 上大量账号持续上传 AI 生成的暴力虐童视频，Meta 未能有效清理。这些视频描绘婴儿和幼儿被殴打、烧伤、关进冰柜等场景，往往获得数千甚至数万次互动，部分评论者并未意识到内容为合成。Meta 回应称对真实或 AI 生成的儿童身体伤害内容有严格规则并已删除相关视频，但其针对儿童暴力内容的政策未明确 AI 生成内容是否属于豁免范围。Futurism 向 Meta 举报了 8 个分享此类视频的账号，最终仅 2 个被删除，其中一个最初还被判定不违规，处置时间超过一周；记者标记给 Meta 公关团队的视频多数被删除，但仍有部分留存。Futurism 称其粗略测试显示 Anthropic 的 Claude 能评估视频中是否包含针对儿童的暴力画面，而 Meta 自身似乎也已部署可识别此类视频的系统。