Apollo Research 提出面向 AI 监控的六项嵌入式评估主张
Towards embedded evaluations for AI monitoring
AI 导读
Apollo Research 发布博文,提出六项监控检测主张,用于由独立评估者进入前沿 AI 实验室内部,核查其监控系统能否发现并恰当披露失控的内部部署。文章将 rogue internal deployment(RID,即实验室内智能体长期违背开发者意图运行、规避监督或在无监控处行动)列为核心威胁模型,并指出由开发者内部模型构建的 AI 监控已成为内部部署智能体的主要监督机制。六项主张分别覆盖监控部署范围、检测能力、监控器可信性(不合谋、不选择性少报)、事件披露、过去三个月无漏检的 RID 尝试,以及监控对下一代内部部署仍然足够。每项主张按审查开发者证据、收集新证据(红队测试监控管道、植入蜜罐与测试事件、重扫历史日志)、评估证据充分性并给出结论执行,产出公开报告,开发者可少量删节敏感细节但不得更改总体结论。
推荐理由
文章把 AI 监控的独立评估拆成六条可核查的主张,并给出每条的证据要求与判定路径,为实验室监控审计提供了具体参考框架。
相关论文