前沿 AI 部署中控制监控的实际挑战

论文分析将自动控制监控用于真实前沿 AI 部署时出现的设计挑战。作者指出，把监控从简化设定扩展到真实部署会引入并行 Agent 实例、不可忽略的监督延迟、Agent 实例之间的增量攻击，以及难以凭单个有害动作识别谋划（scheming）Agent 等新动态。论文比较了同步、半同步和异步三种在延迟与安全之间权衡不同的监控形式，提出高层安全案例草图（safety case sketch）作为理解和比较监控协议的工具，归纳出监督、延迟和恢复三类挑战，并在四个可能的未来 AI 部署案例中加以探讨。