Some text is shown in its original language while the English translation is being prepared.
arXiv· arXiv:2602.00857· Manveer Singh Tamber, Hosna Oyarhoseini, Jimmy Lin·Indexed by this site · Originally publishedSelectedAttention53 统一文本打分模型的对抗鲁棒性与训练
Unifying Adversarial Robustness and Training Across Text Scoring Models
AI reading guide
滑铁卢大学的研究者提出用文本打分统一检索器、重排器和奖励模型的对抗鲁棒性研究，并给出多种对抗训练方法。该框架把攻击定义为让不相关或未被选中的文本得分高于相关或被选中的文本，失败条件可直接检验。实验表明，组合互补的对抗训练方法（Rudimentary、HotFlip、PGD 与内容注入）通常比单一方法更鲁棒，且不牺牲任务效果。在 RLHF 中，用组合对抗训练得到的奖励模型更难被策略模型利用，减少了奖励作弊，训练出的策略在 LLM 评判中更受偏好。
Deep readingGenerating
Why it was selected
论文将检索器、重排器与奖励模型的对抗鲁棒性统一为文本打分问题，并给出可跨攻击迁移的对抗训练组合方法。
Read originalarxiv.org