RS-Diffuser:面向离线强化学习的风险敏感扩散规划
[Daily Paper] RS-Diffuser: Risk-Sensitive Diffusion Planning with Distributional Value Guidance
AI 导读
RS-Diffuser 将扩散规划器与分布式价值评论家结合,通过调整推理时的风险参数 α 即可切换规避、中性或寻求风险的轨迹,无需重新训练。该方法用分位数回归估计回报分布并做蒙特卡洛监督以避免 bootstrap 不稳定,在两个基准上验证尾部风险场景下的表现。 RS-Diffuser 由三部分构成:仅建模状态演化的扩散规划器负责预测未来状态轨迹,逆动力学模型将状态转移解码为动作以保证稳定恢复,蒙特卡洛分布式评论家用 Quantile Huber Loss 拟合完整回报分布。其引导目标基于分位数的索引集定义两种风险偏好——CVaR 式的下尾目标最大化最差结果的均值,上尾目标则鼓励高方差高回报路径。