拜占庭敌手下 AI 智能体分布式治理的攻击与缓解措施

研究者针对智能体 AI 治理方案 SAGA 依赖集中式信任点 Provider、易受恶意 Provider 破坏的缺陷，分析并执行了 Provider 失陷后的多种具体攻击，可破坏智能体可归因性、窃取隐私数据并绕过访问控制；私有云与公有云部署均面临内部人威胁，进一步加大 Provider 被攻破的风险。论文随后提出四种防护架构：SAGA-BFT 提供完全拜占庭容错、防护最强，但拜占庭容错协议成本高导致性能显著下降；SAGA-MON 与 SAGA-AUD 分别利用轻量级服务端监控和客户端审计，以极小开销抵御大多数攻击类别；SAGA-HYB 将拜占庭容错与监控审计结合，在安全与性能之间权衡。作者评估了全部架构并与 SAGA 比较，讨论了各方案在何种条件下最佳。