AI 安全的盲区

一篇评论文章认为，Anthropic 研究者在 ICLR 2026 发表的论文用偏差-方差分解衡量模型输出的一致性，据此推断前沿 AI 更可能以不可预测的“hot mess”方式失效，并主张治理应聚焦事故预防而非约束错位目标。作者指出，该框架衡量的是输出是否围绕自身均值聚集，而非是否贴合现实，因此无法评估模型在开放式、不断变化的场景中是否仍扎根于真实。作者提出介于两者之间的第三种失效模式“认知漂移”（epistemic drift）：模型内部一致、通过标准验证，却在方向上逐步偏离真实。文章引用 2025 年 JAMA Health Forum 对近 1000 个 FDA 批准 AI 医疗设备的研究，称 43% 的召回发生在授权后一年内。作者认为 NIST AI 风险框架以及 FDA、SEC、FTC 等若以这类研究为技术基础，会继承同样的盲区。