Async Control：对 LLM 智能体异步控制措施的压力测试

研究者将针对 LLM 智能体的异步监控压力测试建模为红蓝对抗游戏，蓝队设计监控器、红队构造破坏性智能体，并尝试设定游戏规则使其上界基于 Claude 4.1 Opus 的智能体的破坏潜力。异步监控在事后审查智能体动作，不增加运行时延迟，同时试图在不可逆损害发生前打断攻击。团队开发了 5 个模拟 AI 开发者内部基础设施任务的软件工程环境，得到的集成监控器在留出测试环境上达到 1% 误报率下 6% 漏报率。论文还给出从监控器漏报率外推部署时破坏风险的简单模型、敏感性分析以及模型失效的情形，代码开源于 https://github.com/UKGovernmentBEIS/async-control。