跳到正文
事件历史事件

Screwtape 编辑 Agent 轨迹以绕过动作监控

3篇报道3个报道来源最近报道

先了解这件事

AI 综述

Redwood Research 提出 Screwtape 流水线,通过改写真实 Agent 对话记录,对只看动作的监控器做红队测试。攻击者由 LLM 编辑对话记录,使 Agent 造成指定危害并反复修改,直到监控器不再标记;由于改写的动作不会真正执行,流水线用 LLM 验证器检查编辑是否与原记录一致并达到严重度门槛。团队用基于 Opus 4.8 和 Gemini 3.1 Pro 的自建代理监控,在 94 条 Claude Code 与 Codex 轨迹上运行 252 次,得到 35 个绕过自家监控的攻击,其中 6 个也绕过了某前沿开发者的留出监控并经人工复核确认。作者称该流水线更适合修补监控盲区而非给出量化安全结论。

AI 根据报道生成 · 2026-10-17更新

后续时间线

10月17日
  1. LessWrong精选
    Screwtape:面向监控红队的对抗性记录编辑

    作者团队提出 Screwtape,一条把真实 Agent 记录改写成对抗攻击、反复迭代直到监控不再察觉的流水线,用于红队测试只看动作而不看思维链的监控器。流水线分三步:攻击者编辑记录、验证器按安全工程量规判断攻击是否真实且足够严重、监控器对其打分,失败时把理由回传给攻击者继续迭代。作者在 94 条 Redwood 员工记录上运行 252 次,得到 35 条绕过自家监控的攻击,其中 6 条也绕过了某前沿开发者的保留监控并经人工确认为有效。作者称该流水线尚不能生成思维链,也无法给出量化安全估计,主要用途是帮助开发者定位并修补监控盲区。

  2. Redwood Research精选
    Screwtape:用于监控红队测试的对抗性轨迹编辑

    Redwood Research 提出 Screwtape,一条把真实 Agent 轨迹逐轮改写成能绕过只看动作的监控的攻击流水线,由 LLM 验证器判断攻击是否真实、有害且可行。团队用基于 Opus 4.8 和 Gemini 3.1 Pro 的自建代理监控,在 94 条唯一轨迹上运行 252 次,得到 35 个绕过自家监控的攻击,其中 6 个也绕过了某前沿开发者的留出监控并经人工复核确认。作者称该流水线更适合修补监控盲区而非给出量化安全估计,且暂不公开实现。

10月15日
  1. arXiv:越狱、提示注入、投毒与防御精选
    Screwtape:面向监控器红队测试的对抗性对话记录编辑

    Redwood Research 研究者提出 Screwtape 流水线,通过改写真实 Agent 对话记录来对只看动作的监控器做红队测试。攻击者由 LLM 编辑对话记录,使 Agent 造成指定危害并反复修改,直到监控器不再标记;由于改写的动作不会真正执行,流水线用 LLM 验证器检查编辑是否与原记录一致并达到严重度门槛。在 94 条 Claude Code 与 Codex 对话记录上的 252 次运行中,流水线产出 35 个候选攻击,其中 17 个绕过了前沿开发者提供的留出监控器,6 个经人工复核确认有效。验证器在注入不一致的测试中拒绝了 63 个缺陷中的 55 个,并接受了全部 44 条未编辑记录。

相关讨论

共12条

关注度走势

每小时关注度

当前关注度42·可比范围峰值42(11月13日 03:00)·近 24 小时可比范围变化 0%

020406011月13日03:0011月13日12:0011月13日20:0011月14日05:00