面向 AI 智能体的高效且可靠的概率验证

研究者提出一个高效且可靠的概率验证框架，用于为在复杂数字环境中运行的 AI 智能体执行安全策略。现有基于 Datalog 等形式语言的运行时监控方法只支持确定性策略，而实际应用中解密判定器（declassifier）或个人可识别信息（PII）检测器等组件每次调用都带有一定失败概率，且难以满足以往概率推理工作所需的独立性假设。新框架基于分布鲁棒优化，在谓词之间可能存在相关性的情况下，仍能计算出策略违规概率的可靠上界。作者称，在终端（terminal）与工具调用智能体的标准基准上，该方法优于已有技术，在保证严格违规概率上界的同时改进了安全与效用的权衡。