Some text is shown in its original language while the English translation is being prepared.
arXiv· arXiv:2602.05746· Xin Chen, Jie Zhang, Florian Tramèr·Indexed by this site · Originally publishedSelectedAttention57 学习注入：通过强化学习实现自动化提示注入
Learning to Inject: Automated Prompt Injection via Reinforcement Learning
AI reading guide
ETH Zürich 研究者提出 AutoInject，用强化学习自动生成提示注入后缀，在 AgentDojo 上对多个生产模型的攻击成功率超过模板攻击与 GCG、TAP 等优化基线。该方法用基于比较的反馈模型把二值的注入成功信号转成稠密奖励，以 GRPO 训练 Qwen2.5-1.5B 生成后缀，并支持在线查询与离线训练的可迁移后缀两种模式。在 Gemini-2.5-Flash 上成功率为 58%，GPT-5-nano 上为 11.49%，模板攻击的峰值分别为 23.6% 和 1.6%；在专门微调以抵抗提示注入的 Meta-SecAlign-70B 上仍达到 21.88% 成功率，而模板攻击完全失效。代码已在 GitHub 开源。
Deep readingGenerating
Why it was selected
论文在 AgentDojo 上把提示注入成功率提升到 58%，并给出无需在线访问的可迁移后缀，便于防御方检验护栏的泛化能力。
Read originalarxiv.org