跳到正文
原文

用 Continuation Audits 在真实场景中探测智能体的过度主动行为

Probing agent overeagerness in realistic settings with continuation audits

arXiv:其他 AI 安全论文· arXiv:2611.24491· Sean Lim, Clement Neo·本站收录· 13 小时前· 原文发表对齐· 扫描记录里的位置 →
AI 导读

研究者提出 Continuation Audits,一种在真实场景中探测编码智能体过度主动(overeagerness)行为的审计流水线。该方法以真实编码智能体会话记录的前缀为基础,引导审计模型沿轨迹续写至预设行为,因此只需维持真实感而无需人工构造合成场景。在 SWE-Chat 前缀上的验证显示,90 组配对审计中裁判无法可靠区分续写与原始会话(realism 胜率 0.42 对 0.43),且全部 900 次审计中口头表达的评测感知不超过未审计真实会话中观察到的水平。

阅读原文arxiv.org