REALISTA：诱导大语言模型幻觉的现实潜空间对抗攻击
REALISTA: Realistic Latent Adversarial Attacks that Elicit LLM Hallucinations
AI 导读
研究者提出 REALISTA，一种通过语义等价改写诱导大语言模型幻觉的潜空间对抗攻击框架，并在先前现实类攻击失效的自由回复设置下成功攻击大型推理模型。该方法将幻觉诱导形式化为约束优化问题，目标是找到与良性用户提示语义等价且连贯的对抗提示。REALISTA 为每个输入构建由有效编辑方向组成的字典，每个方向对应一次语义等价且连贯的改写，再在潜空间中优化这些方向的连续组合，兼顾连续攻击的优化灵活性与离散改写攻击的语义真实性。实验显示，REALISTA 在开源大语言模型上取得优于或相当于最先进现实类攻击的表现，代码已在 GitHub 开源（https://github.com/Buyun-Liang/REALISTA）。