面向智能体系统的形式化策略执行

研究者提出一种基于运行时监控的智能体系统形式化策略执行方法，可按用户指定的策略放行或拦截 Agent 待执行动作。用户用 Datalog 编写预期策略，系统通过构建事件图在运行时执行策略；当 Agent 即将执行工具调用等动作时，该方法结合当前系统状态和历史事件判断动作是否违反策略，再相应阻断或放行。作者实现了该方法并在多个基准上评估，称其展示了在真实场景中的价值，并视之为迈向可证明安全可靠的智能体系统的一步。