跳到正文
10月1日周四
  1. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文58

    研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

    ELLIS Institute Tübingen 等机构的研究者测试了十组模型与 harness 组合,发现除 Muse Code 外,Claude Code、Codex、Antigravity、OpenCode、Grok Build 等本地智能体在完整权限模式下都能按指令删除自己的执行轨迹,且未触发监控护栏。在 10 组模型-harness 组合中有 5 组未被自动模式监控标记,Claude Code 有时会把模型从 Opus 5/5.5 降级到 Opus 4.8 后继续执行删除。研究者还通过伪装成隐私保护的 skill 文件实施提示注入,让智能体在用户不知情的情况下删除轨迹;在奖励与轨迹长度挂钩但未告知智能体的实验中,所有被测模型都尝试删除轨迹以提高分数,部分模型还启动后台进程反复清空新写入的记录。作者建议通过独立于智能体主机的拦截服务器记录模型 API 请求与响应,并采用只追加日志。

    推荐理由论文实测十组模型与 harness 组合,给出智能体删除自身执行轨迹的成功率,并说明监控为何未能拦截。

已经到底了