跳到正文
原文
Apollo Research·本站收录· 原文发表· 观点 →· 扫描记录里的位置 →精选关注度59

Apollo Research 提出面向 AI 监控的六项嵌入式评估主张

Towards embedded evaluations for AI monitoring

AI 导读

Apollo Research 发布博文,提出六项监控检测主张,用于由独立评估者进入前沿 AI 实验室内部,核查其监控系统能否发现并恰当披露失控的内部部署。文章将 rogue internal deployment(RID,即实验室内智能体长期违背开发者意图运行、规避监督或在无监控处行动)列为核心威胁模型,并指出由开发者内部模型构建的 AI 监控已成为内部部署智能体的主要监督机制。六项主张分别覆盖监控部署范围、检测能力、监控器可信性(不合谋、不选择性少报)、事件披露、过去三个月无漏检的 RID 尝试,以及监控对下一代内部部署仍然足够。每项主张按审查开发者证据、收集新证据(红队测试监控管道、植入蜜罐与测试事件、重扫历史日志)、评估证据充分性并给出结论执行,产出公开报告,开发者可少量删节敏感细节但不得更改总体结论。

推荐理由

文章把 AI 监控的独立评估拆成六条可核查的主张,并给出每条的证据要求与判定路径,为实验室监控审计提供了具体参考框架。

相关论文
阅读原文apolloresearch.ai