通过 Agent-as-a-Proxy 攻击绕过 AI 控制协议

研究者提出 Agent-as-a-Proxy 攻击，把被间接提示注入的 Agent 当作向监控模型投递对抗字符串的载体，从而同时绕过 Agent 与监控。配套的 Parallel-GCG 算法针对推理轨迹、工具参数和执行日志等多个插入点联合优化对抗字符串。在 AgentDojo 基准上，该方法对 AlignmentCheck 的攻击成功率超过 90%，对 PromptGuard 2 + AlignmentCheck 和 Extract-and-Evaluate 同样有效。作者称混合监控（CoT 加工具调用）虽对静态攻击更稳健，却比仅监控 CoT 更易被自适应攻击绕过；GPT-4o mini 与 Llama 3.1 70B 可绕过 Qwen2.5 72B 监控，说明绕过监控并不需要能力差距。

Deep readingGenerating