Screwtape:用于监控红队测试的对抗性轨迹编辑
Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming
AI 导读
Redwood Research 提出 Screwtape,一条把真实 Agent 轨迹逐轮改写成能绕过只看动作的监控的攻击流水线,由 LLM 验证器判断攻击是否真实、有害且可行。团队用基于 Opus 4.8 和 Gemini 3.1 Pro 的自建代理监控,在 94 条唯一轨迹上运行 252 次,得到 35 个绕过自家监控的攻击,其中 6 个也绕过了某前沿开发者的留出监控并经人工复核确认。作者称该流水线更适合修补监控盲区而非给出量化安全估计,且暂不公开实现。
推荐理由
Screwtape 通过改写真实 Agent 轨迹迭代攻击监控,作者把它与合成环境、模拟环境和人工红队放在同一取舍轴上比较,并说明它更适合修补监控盲区而非量化安全。
相关论文