Claudini：自动研究发现面向 LLM 的最先进对抗攻击算法
Claudini: Autoresearch Discovers State-of-the-Art Adversarial Attack Algorithms for LLMs
AI 导读
研究者提出 Claudini 自动研究流水线，让 Claude Code、Codex 等前沿 LLM Agent 在固定算力预算下自主设计、实现并迭代白盒对抗攻击算法，在越狱与提示注入评测上超越 30 余种既有方法。针对 OpenAI 的 GPT-OSS-Safeguard-20B，最佳方法在 ClearHarm 的 CBRN 查询上达到 80% 攻击成功率，既有方法不超过 50%；在对抗训练过的 Meta-SecAlign-70B 上达到 100% ASR，最强 Optuna 调优基线为 82%。这些方法在 Qwen-2.5-7B、Llama-2-7B、Gemma-7B 等无关代理模型的随机 token 强制任务上开发，却直接迁移到提示注入。作者称多数进展来自对既有方法的重新组合与超参调优，真正的新想法集中在逃离局部最优的机制，并主张自动研究应成为防御评估的最低标准。
推荐理由
论文显示前沿 Agent 能在固定算力预算下自动发现超越 30 余种既有方法的越狱与提示注入攻击，为防御评估提供了新的对抗基线。