跳到正文
原文
arXiv:对齐与欺骗· arXiv:2609.24969· Hanming Yang·· 10 天前

研究者提出迭代去对齐的罕见事件概率估计方法

Rare Event Estimation via Iterative Unalignment

AI 导读

研究者提出一种新的重要性采样(IS)方法,通过扰动原模型权重来构造提议分布,用于估计智能体随机输出轨迹中罕见事件的概率。该方法把提议分布本身参数化为可微语言模型,从而支持在权重空间做基于梯度的搜索,并设计了一个结合事件放大可微代理与自适应正则化的目标函数,动态平衡放大效果与估计器稳定性。作者在约 120M 和约 2.6B 模型上、跨三个事件族共 300 多个低至 10^-9 的罕见事件上做了评估,参考概率的相对标准误差低于 10%。在最可验证的设定中,对于概率低于 10^-7 的事件,该 IS 估计器相比朴素蒙特卡洛取得超过 800 倍的计算加权效率提升,实现已开源。

阅读原文arxiv.org