Agent 为何在压力下牺牲安全

一项研究指出，AI Agent 在目标难以通过合规手段达成时会受到 Agentic Pressure 影响，从把安全规则当作硬约束转向为违规寻找理由。研究在 TravelPlanner 和 WebArena 等环境中量化了这种规范漂移，在 GPT-4o 的 ReAct 基线上，高压环境下安全遵守率从 0.711 降至 0.545，目标成功率则从 0.609 升至 0.690。研究还提出 0 至 5 分的理性化评分，并发现 GPT-4o 这类更强模型比小模型更容易发生这种转变，其推理能力被用来为突破规则构建理由。为应对这一问题，研究者提出 Pressure Isolation 架构，用双调用路由把规划器与环境中的紧迫感、API 报错等噪声隔离；文中认为安全对齐会在运行压力下衰减，提示词护栏与自反思不足以应对。