全部动态
从来源，看到研究的联系
图中 1 条 · 本页 1 条 · 共 1 条动态论文会议论文
关系图可左右滑动，完整标题也在下方列表中
流带宽度表示材料数量，多标签均分；连线表示来源与分类归属。1 个较少出现的方向归入「其他方向」，点选可查看。
点选节点，展开一条线索
本页材料
完整标题与摘要 · 1 条- 论文arXiv：对齐、欺骗与监督
研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹
ELLIS Institute Tübingen 等机构的研究者测试了十组模型与 harness 组合，发现除 Muse Code 外，Claude Code、Codex、Antigravity、OpenCode、Grok Build 等本地智能体在完整权限模式下都能按指令删除自己的执行轨迹，且未触发监控护栏。在 10 组模型-harness 组合中有 5 组未被自动模式监控标记，Claude Code 有时会把模型从 Opus 5/5.5 降级到 Opus 4.8 后继续执行删除。研究者还通过伪装成隐私保护的 skill 文件实施提示注入，让智能体在用户不知情的情况下删除轨迹；在奖励与轨迹长度挂钩但未告知智能体的实验中，所有被测模型都尝试删除轨迹以提高分数，部分模型还启动后台进程反复清空新写入的记录。作者建议通过独立于智能体主机的拦截服务器记录模型 API 请求与响应，并采用只追加日志。