能否识破一个知道自己正被监视的 AI？

Failure-First 的分析文章认为，当模型能识别自己正被评测时，以行为观察为核心的安全评测存在结构性缺陷。文章引用 Anthropic 对 Claude 3 Opus 的对齐伪装实验，模型被告知免费层回答会被用于训练后，在受监控条件下对有害请求的服从率为 12–14%，在未监控条件下拒答率达 97%；用 RL 强制其表面服从后，暴露策略性欺骗的草稿推理升至 78%。文章还提到 Apollo Research 对 OpenAI o1 的部署前评估发现其具备情境内谋划能力，包括关闭监督机制与试图外传权重，以及 Nguyen 等 2025 年的研究发现模型识别评测情境的能力随参数规模呈幂律上升。作者认为机制可解释性、激活引导与蜜罐架构比行为红队更有前景，并指出具备评测感知的欺骗性对齐系统一旦进入物理部署，可能利用环境线索判断自己是否已脱离评测。