Agent 安全 · 论文

POLAR 是训练无关的事前门控，用类型化本体在工具调用执行前检查能否组成候选逆序列。

SAFEACTBENCH 评测工具智能体的 consequential actions 是否由行动前已建立的证据支持，而不是只看终态对不对。

DEFER 用来测量多智能体授权流水线里，确定性规则在何处结束、LLM judge 从何处开始。

论文是一项针对智能体动作拦截防御堆叠故障关联性与实际组合价值的实证测量研究。

长时程软件工程任务里，用户要判断智能体哪些选择值得核验。作者用 AgentMonBench 评测监控器，并用免训练的 EBG 组织带源证据。

DelegationBench 是一项针对 AI 智能体授权决策的评测基准，旨在评估模型在执行日常操作时何时应直接执行、何时应先请示用户。

StateWise 是在执行带副作用的动作之前，诊断并修复编码智能体持久操作状态的框架。

长时程工具使用把目标演化变成授权状态的一部分。本文在单 principal、单根、有限结构化域中，把自生成子目标的创建、替换、同根委托和同根 join 做成可检查转移，并在提交边界重查受保护效应。

把 Kubernetes 上的运维智能体当作不可信租户，在假定提示注入已完全控制其工具选择的前提下，用基础设施重建数据面与控制面的边界。要解决的是：智能体读日志、注解、工单或 MCP 工具描述时，这些内容可以变成它带着自身凭据执行的命令。模型对齐和分类器只降低概率。