事件观察中
PORT:用token级重加权提升偏好优化鲁棒性
先了解这件事
AI 综述
2026年11月10日发布的arXiv论文提出PORT方法,通过token级重加权提升大语言模型在噪声偏好数据下的对齐鲁棒性。该方法利用token对数概率的经验累积分布函数作为仅前向传播的代理,选择性抑制损坏token,无需额外反向传播,并在理论上降低噪声偏好标签带来的梯度偏差上界。多种噪声设置下的实验显示,PORT持续提升鲁棒性并优于现有序列级基线。
AI 根据报道生成 · 2 天前更新
走势与进展
每小时关注度
现在 23,24 小时 -2%·峰值 26(11月10日 20:00)
11月11日11月12日11月13日现在 23
相关研究
这件事的论文
- PORT:通过鲁棒 token 级重加权进行偏好优化
arXiv · 2026-11-09 · 深度解读
后续时间线
11月10日
- arXiv:对齐、欺骗与监督PORT:通过鲁棒 token 级重加权进行偏好优化
PORT 通过 token 级重加权提升噪声偏好数据下的大语言模型对齐鲁棒性。该方法利用 token log-probabilities 的经验累积分布函数(CDF)进行重加权,作为仅前向传播的代理来选择性抑制损坏 token,无需额外反向传播,并在理论上降低噪声偏好标签带来的梯度偏差上界。多种噪声设置下的实验显示,PORT 持续提升鲁棒性并优于现有序列级基线。
相关讨论
关注度走势
每天新增来源
- 11月10日新增1个来源(1家媒体、0个账号)
- 11月11日新增0个来源(0家媒体、0个账号)
- 11月12日新增0个来源(0家媒体、0个账号)
- 11月13日新增0个来源(0家媒体、0个账号)