Some text is shown in its original language while the English translation is being prepared.
arXiv· arXiv:2602.02395· Samuel Nellessen, Tal Kachman·Indexed by this site · Originally publishedSelectedAttention55 David vs. Goliath：通过强化学习实现可验证的智能体间越狱
David vs. Goliath: Verifiable Agent-to-Agent Jailbreaking via Reinforcement Learning
AI reading guide
研究者提出 Tag-Along Attacks 威胁模型，并发布 Slingshot：一个冷启动强化学习框架，训练没有工具权限的小模型仅靠对话诱导安全对齐的 Operator 智能体执行本应被拒绝的工具调用。在 AgentDojo 环境的 41 个极端难度任务上，Slingshot 对 Qwen2.5-32B-Instruct-AWQ Operator 的攻击成功率为 67.0%（基线 1.7%），已解决任务上首次成功所需尝试次数从 52.3 降到 1.3。作者还发布包含 575 个任务的 TagAlong-Dojo 基准，训练使用 156 A100 GPU-hours。
Deep readingGenerating
Why it was selected
论文用强化学习训练攻击方智能体，在可验证的工具执行环境中量化了智能体间越狱的成功率与跨模型迁移性。
Read originalarxiv.org