跳到正文
原文
LessWrong· BarAltiva·本站收录· 原文发表· 对齐 →精选关注度42

Screwtape:面向监控红队的对抗性记录编辑

Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming

AI 导读

作者团队提出 Screwtape,一条把真实 Agent 记录改写成对抗攻击、反复迭代直到监控不再察觉的流水线,用于红队测试只看动作而不看思维链的监控器。流水线分三步:攻击者编辑记录、验证器按安全工程量规判断攻击是否真实且足够严重、监控器对其打分,失败时把理由回传给攻击者继续迭代。作者在 94 条 Redwood 员工记录上运行 252 次,得到 35 条绕过自家监控的攻击,其中 6 条也绕过了某前沿开发者的保留监控并经人工确认为有效。作者称该流水线尚不能生成思维链,也无法给出量化安全估计,主要用途是帮助开发者定位并修补监控盲区。

推荐理由

Screwtape 在真实 Agent 记录上迭代生成绕过监控的攻击,可与合成环境、模拟环境和人工红队等既有方法对照。

阅读原文lesswrong.com