AI 存在风险概率仍不可靠，无法作为政策依据
AI existential risk probabilities are (still) too unreliable to inform policy
AI 导读
针对当前公共讨论中广泛引用的 AI 灭绝风险概率（p(doom)），该文指出其并不比 2024 年的估计更严谨，缺乏经过验证的模型与方法支撑，因此不应作为公共政策的决策依据。作者将预测者可用的论证路径归纳为归纳、演绎与主观概率三类，并强调由于 AI 存在风险是没有参照类别的独特事件，不存在明确的正确参考类别可供推导。他们同时澄清并非指责预测者有意误导，也不反对将其用于学术活动和企业内部私人决策，仅质疑其在公共政策中的合法性——尤其当相关政策成本高昂且分布不均（例如限制开放权重模型的发布）时，政府难以向公众作出正当化说明。