SafeReview：防御基于 LLM 的审稿系统免受对抗性隐藏提示词攻击
SafeReview: Defending LLM-based Review Systems Against Adversarial Hidden Prompts
AI 导读
研究者提出协同进化对抗训练框架 SafeReview，防御基于 LLM 的审稿系统免受投稿中隐藏对抗性提示词的操纵。其联合训练 Generator 生成越来越有效的提示注入，Defender 经偏好训练在干净与被攻击投稿间保持评审一致。实验显示其比静态防御更能抵御自适应提示注入攻击、受攻击时保持论文排名，并泛化到不同攻击者架构。