事件历史事件
研究者提出配对优化框架越狱LLM智能体
先了解这件事
AI 综述
2026年10月，arXiv 论文提出 Pair-aware optimization 框架，用于对 LLM 智能体实施越狱攻击：以零阶优化探索对抗前缀、一阶优化精炼对应后缀，保留多个前缀候选并在候选对之间选择。论文比较纯 ZO、纯 FO、ZO->FO 与 FO->ZO 四种策略，称混合优化在恶意指令与恶意环境两类基准上比单一优化器方法更有效，且优化顺序对性能影响显著。作者还从随机生成角度考察智能体越狱。
AI 根据报道生成 · 24 天前更新
走势与进展
每小时关注度
现在 29，24 小时 0%·峰值 29（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 29
相关研究
这件事的论文
- Pair-Aware Optimization：为 LLM 智能体越狱协调探索与精炼
arXiv · 2026-10-17 · 深度解读
后续时间线
10月18日
- arXiv：越狱、提示注入、投毒与防御Pair-Aware Optimization：为 LLM 智能体越狱协调探索与精炼
研究者提出 Pair-aware optimization 框架，用于对 LLM 智能体实施越狱攻击，通过零阶（ZO）优化探索对抗前缀、一阶（FO）优化精炼对应后缀，并保留多个前缀候选、有条件地精炼后缀后在候选对之间选择。论文系统比较了纯 ZO、纯 FO、ZO->FO 和 FO->ZO 四种策略，发现混合优化在恶意指令与恶意环境两类基准上比单一优化器方法更有效，且优化顺序对性能影响显著。作者还从随机生成的角度考察智能体越狱，认为同一对抗输入会引出多样的推理轨迹与动作，因此在优化和评估阶段都采用一致的随机解码。