跳到正文
原文
Redwood Research· Gosha Kozhevnikov·本站收录· 原文发表精选关注度45

Screwtape:用于监控红队测试的对抗性轨迹编辑

Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming

AI 导读

Redwood Research 提出 Screwtape,一条把真实 Agent 轨迹逐轮改写成能绕过只看动作的监控的攻击流水线,由 LLM 验证器判断攻击是否真实、有害且可行。团队用基于 Opus 4.8 和 Gemini 3.1 Pro 的自建代理监控,在 94 条唯一轨迹上运行 252 次,得到 35 个绕过自家监控的攻击,其中 6 个也绕过了某前沿开发者的留出监控并经人工复核确认。作者称该流水线更适合修补监控盲区而非给出量化安全估计,且暂不公开实现。

推荐理由

Screwtape 通过改写真实 Agent 轨迹迭代攻击监控,作者把它与合成环境、模拟环境和人工红队放在同一取舍轴上比较,并说明它更适合修补监控盲区而非量化安全。

相关论文
阅读原文blog.redwoodresearch.org