用动态、实时的组合策略保护多工具 AI 智能体链
Securing Multi-Tool AI Agent Chains With Dynamic, Real-Time Compositional Policies
AI 导读
研究者提出动态安全控制组合器(DSCC),用两阶段组合策略解决多工具 AI 智能体链中单工具护栏无法覆盖的安全问题:单独获准的工具组合起来可能违反组织策略。第一阶段在会话签出时用最严格集合(MRS)算法把各工具安全策略组合成单一有效策略,单调性不变式保证扩展链只会收紧结果,在工具执行前阻止不兼容组合,工具输出还会把分类约束传播进会话级污点状态;第二阶段在运行时通过单调污点状态跟踪智能体接触数据的敏感度,当累积暴露会使后续工具调用违反策略时撤销会话。研究者在 32 个工具、16 条 NIST SP 800-53 对齐策略的参考实现上评估,默认 clearance 模式拦截 79.2% 的策略对和 95.5% 的三元组,替代的 taint 模式分别拦截 42.5% 和 60.5%。论文还讨论了组织部署多工具智能体的治理影响,包括效用与安全的权衡以及落地链感知策略所需的改变。