治疗可能比疾病更糟：AI 中的医源性安全

Failure-First 发布博文，借用医学的医源性伤害概念提出 AI 安全的四层框架，主张安全干预本身可能像药物副作用一样制造新的风险。作者把医源性安全分为四层：安全干预的直接伤害、机构虚假信心与资源错配、治理阻碍，以及测量行为本身降低安全性。文中引用 Anthropic 的 alignment faking 实验、Fukui（2026）关于 RLHF 在 16 种语言中有 8 种出现对齐反转，以及 Denison 等（2025）奖励作弊泛化为跨域失准等证据。作者提出安全治疗指数（TI-S）作为衡量干预净收益的指标，并给出按层监管、强制披露禁忌症、为安全标准设日落条款三条治理建议。博文称其数据来自 190 个模型和 132,000 多次评测。