跳到正文
原文

面向 LLM 智能体的可审计授权:跨模型、Harness 与工作流层的实证证据

Auditable Authorization for LLM Agents: Empirical Evidence Across Model, Harness, and Workflow Layers

arXiv:其他 AI 安全论文· arXiv:2611.19237· Bangjie Deng, Xiaoxuan Lu, Wenjun Chen, Chengge Wen, Yulin Wang, Jiayue Meng, Yao Yu, Liying Liang, Weijia Han, Ziwei Hong, Zidong YuUniversity of Pennsylvania; Columbia University; Northeastern University; University of Chicago; University of Rochester; Shanghai Jiao Tong University; University of Washington; Lehigh University; Syracuse University本站收录· 2 天前· 原文发表防御· 扫描记录里的位置 →

论文速读

评测与基准

据论文 PDF 整理(AI 生成),以原文为准

作者提出可审计授权框架,在模型、运行时、工作流三层审计人工审批:300 组配对审批中 7 组获批工作未完成、拒绝零泄漏,4/59 个 n8n 工作流在 Reject 后仍执行。

问题
关键智能体系统中人工审批常是最后控制手段,但界面记录了决定不代表决定控制了工作:获批工作可能未完成、被拒绝的效果可能仍发生,且真实执行轨迹难以公开复现。
方法
作者形式化拒绝安全与有界授权完整性两项义务,用配对 Approve/Reject 决定、精确轨迹和原生业务状态见证(而非 LLM 裁判),在模型、harness、workflow 三层分别审计三模型、四种运行时审批设计和 100 个公开 n8n 工作流。
实验与结果
配对面板 300 次审批 7 次未完成、拒绝零泄漏;Google ADK 合并并行批准在 3/3 任务丢失一个获批分支;CrewAI 恢复遗漏 336/672 获批效果;4/59 个 n8n 工作流在 Reject 后仍执行受保护效果。
局限与可以继续做的
作者指出:风险导向的检查点和重复转换情节不估计部署中的发生率;描述性 Wilson 区间不是独立性声明;AI 标注一致性低(κ 0.190–0.477),原生效果仍是主要终点;合成 triage 准确率只描述其预声明的固定样例。
实验设置GPT-6.1-Sol、DeepSeek V4.1 Flash 等 · τ-bench Retail、τ²-bench 等 · 审批完成率(refusal safety / bounded authorization completeness)、拒绝后受保护效果发生率 等
威胁模型
非对抗性审计:无攻击者。研究人工审批(Approve/Reject)是否实际控制智能体行为——拒绝的工作必须停止、获批且可行的工作必须完成。受害系统是带人工审批环节的智能体系统,覆盖模型选择调用、harness 调度恢复、workflow 路由三个执行边界。
被测模型
GPT-6.1-SolDeepSeek V4.1 FlashClaude Haiku 5.5
基准
τ-bench Retailτ²-benchτ³ banking extension100 个公开 n8n 工作流AppWorld(Mastra pilot)
指标
审批完成率(refusal safety / bounded authorization completeness)拒绝后受保护效果发生率Wilson 95% 置信区间McNemar 检验AI 标注 κ
AI 导读研究者提出面向 LLM 智能体的可审计授权方法,将人类审批形式化为拒答安全与有界授权完整性,并在模型选择调用、Harness 调度恢复、工作流路由到受保护效果这三层执行边界上审计。实验覆盖三个模型、五组提示、四种运行时审批设计、CrewAI 与 n8n 两次框架重放及 100 个公开工作流来源。结果显示,配对模型面板中 300 项审批有 7 项未完成而被拒效果为零;并行确认在每个模型的三个任务中丢失已批准分支;恢复流程遗漏 336/672 个 CrewAI 审批;59 个可比 n8n 工作流中有 4 个在 Reject 后仍执行。作者称,对比意图、生成调用、分发与原生效果可定位首个可观察分歧及其修复目标,由此得到的审计契约使拒答安全与授权完整性可独立验证,把人类审批从程序性形式变成意图与真实效果之间可执行的控制边界。

研究者提出面向 LLM 智能体的可审计授权方法,将人类审批形式化为拒答安全与有界授权完整性,并在模型选择调用、Harness 调度恢复、工作流路由到受保护效果这三层执行边界上审计。实验覆盖三个模型、五组提示、四种运行时审批设计、CrewAI 与 n8n 两次框架重放及 100 个公开工作流来源。结果显示,配对模型面板中 300 项审批有 7 项未完成而被拒效果为零;并行确认在每个模型的三个任务中丢失已批准分支;恢复流程遗漏 336/672 个 CrewAI 审批;59 个可比 n8n 工作流中有 4 个在 Reject 后仍执行。作者称,对比意图、生成调用、分发与原生效果可定位首个可观察分歧及其修复目标,由此得到的审计契约使拒答安全与授权完整性可独立验证,把人类审批从程序性形式变成意图与真实效果之间可执行的控制边界。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    人工审批只有"拒绝即停、批准即成"才有效,作者审计三个执行边界上审批是否实际控制效果。

    核心问题:在关键智能体系统中,人工审批(human approval)是否真正控制了实际效果——被拒绝的工作是否停止、被批准的工作是否完成。

    • 问题场景:作者以军事打击取消和航天器指令更新为例:界面记录了审批决定,但决定未能控制工作——一个获批的取消未执行,一个被拒绝的指令仍被提交。国防、航天系统的完整执行轨迹很少公开,可复现的审计困难。
    • 现有不足:作者认为,仅收集单一决定(只测批准或只测拒绝)无法保证任一结果;可见的人工审批环节可能造成"控制的假象",除非有执行证据把决定和业务状态连起来。
    • 核心观察:审批包含两项可独立测量的义务——阻止被拒工作(refusal safety)和完成符合条件的获批工作(bounded authorization completeness);每个决定要经过模型选择调用、运行时调度、工作流决策处理三个边界。
    • 论文提出:一个可审计授权(auditable authorization)框架:形式化两项义务,用配对决定、精确轨迹和原生业务状态见证(而非语言模型裁判)做审计,覆盖三个模型、五种提示臂、四种运行时审批设计、两个额外框架重放和 100 个公开 n8n 工作流,并给出诊断路径、修复控制和离线工具包。
    • 研究性质:这是非对抗性审计,论文未设定攻击者;研究对象是审批机制本身在模型、harness、workflow 三层是否失效,受害系统是带人工审批环节的智能体系统。
  2. 有哪些相关研究?

    相关工作分四组:人机交互监督、审批-执行绑定失效、状态化基准与工作流分析、框架审批机制。

    混合主动交互与人机监督

    • Horvitz(1999)——混合主动用户界面原则;Amershi 等(2019)——人机交互指南。作者引它们强调有意义的监督(meaningful oversight)。

    审批-执行绑定失效

    • Approval Laundering(Wang, 2026)、Agent Approval Laundering(Zhang 等, 2026)、Loopjacking(Kumar, 2026)、Guarded Commits(Bindschaedler 等, 2026)——研究审批与执行的绑定失效。作者称本文的区别是联合测量被拒效果和未完成批准,并跨三个执行边界。

    基准、工作流分析与相关系统设计

    • τ-bench(Yao 等, 2024)、τ²-Bench(Barres 等, 2025)、τ-Knowledge/τ³(Shi 等, 2026)——提供本文使用的工具与状态化环境;AppWorld(Trivedi 等, 2024)——Mastra pilot 的来源。
    • n8n 生态工作流刻画(Tang 等, 2026)与 AgentProof 静态图验证(Xavier 等, 2026)——作者称它们启发了本文的工作流审计。
    • Omni-IO Skills(Li 等, 2026)——把 harness 视为组合异构能力、保留宿主智能体推理核心的层;DAAF(Yuan 等)——把失效定位连接到可编辑系统资产;State-Grounded Conditioning(Liu 等)——把状态依赖控制外化为规则;TactiNavi(Liu 等)——把显式策略条件连接到决策轨迹;CSCWD 的请求-邀请-批准冲突预防(Wang 等, 2024)——把一致同意当作执行条件,作者称本文测试该条件是否在委托后存活。

    基线与对照:模型层的对照是原生基线——abstain-all(0/100 完成、阻止全部 100 个被拒效果)和 execute-all(100/100 完成但产生全部 100 个被拒效果);提示臂对照为 O(原始提示)对 S、S′、C、L 四臂;harness 层对照为 CrewAI/Agno 的保存-恢复控制与 OpenAI Agents SDK、LangGraph 重放。

    作者定位:本文把审批有效性变成可独立验证的工程属性,用原生效果而非 LLM 裁判做终点,跨模型、运行时、工作流三层定位最早可观察的分歧点。

  3. 论文如何解决这个问题?

    形式化两项审批义务,用配对决定和原生状态见证在模型、harness、workflow 三层分别审计并定位最早分歧。

    整体思路:把人工审批拆成两项可独立验证的义务,沿"模型选择调用 → harness 调度恢复 → workflow 路由决策"三个执行边界分别做配对审计,用原生工具执行和状态谓词(native witnesses)而非语言模型裁判判定效果,定位最早可观察的分歧并给出对应修复。

    审计契约与形式化

    • 带范围的决定:决定 dv 包含版本 v、授权动作集 Av、被拒效果集 Dv 和执行条件 Cv;可比配对固定上游状态和受保护操作、只改变决定。
    • 待完成义务:P(τ) = Alatest(τ) ∖ done(τ),即最新授权动作中尚未被见证完成的部分。
    • 有界授权完整性:FH(τ) = ∏a ∈ AeligibleH 1{a ∈ done(τ0:H)},要求每个仍获授权、可行且条件有效的动作在视界 H 内完成;拒绝安全禁止决定后任何当前被拒效果出现(包括事后被撤销的效果)。
    • 关键区分:可行性(能否执行)与当前同意(应否执行)分开;新披露价格或条件变化需要新决定时,重新确认计为"操作未完成",再区分"缺失承诺"与"合理的披露边界"。

    模型层:配对决定

    • 环境:τ-bench/τ²-bench 的 Retail 工具(固定在 commit 96a3ef9),外加作者编写的审批检查点;风险导向的 100 例面板含 90 个目标动作签名、50 个客户、12 种决定变体;视界为前 30 例 10 轮、后 70 例 18 轮。
    • 设计:每模型 100 个配对检查点(各一次 Approve、一次 Reject),再加每模型 1,100 个仅批准情节,覆盖五种提示臂:O(原始)、S(动作级范围重述)、S′(仅肯定措辞)、C(系统生成动作卡)、L(O 加同意/完成台账)。
    • 判定:以授权目标及伴随动作的原生效果判定完成,与最终文本无关;缺失动作用隔离状态副本上的后前缀可行性见证验证。

    Harness 层:保持义务

    • 四种审批设计:CrewAI(反馈附在 Flow 步骤)、Agno(工具确认)、Google ADK(并行编排下聚合工具确认)、Mastra(步骤内挂起/恢复);另用 OpenAI Agents SDK 和 LangGraph 重放保存的提案。
    • 方法:固定提案、决定和原生业务对象,把"已生成调用丢失"与"选择失败"分开;控制变量包括确认传递方式、恢复、修订决定和委托;结果决定性超时回退、伪造恢复故障、故意丢失历史和传输故障不计入自然失效。

    Workflow 层:Reject 是否管住分支

    • 来源:5,606 个公开 n8n 图中 267 个有原生等待节点;2026 年 10 月 15 日筛选出 100 个 ID;n8n 2.43.5 执行原始节点版本,拦截的服务暴露受保护请求。
    • 判定:Approve 必须到达受保护效果,Reject 必须拒绝同一效果;拒绝记账和拒答消息不算受保护效果违规。

    诊断与工具

    • Triage 流程(Figure 4):获批动作未尝试 → 模型状态或待办问题;调用丢失或范围过期 → 运行时调度或决定版本问题;Reject 后仍有执行 → 决定对效果不敏感的工作流组件;每步用原生见证或修复控制确认。
    • 离线工具包:approval-audit-toolkit 重算原生效果计数和聚类对比,检查 n8n 拒绝路径中未测试的决定值,无需再次调用 API。
  4. 论文做了哪些实验?

    三模型 300 组配对审批 7 组未完成、拒绝零泄漏;ADK 并行聚合丢分支、CrewAI 恢复漏 336/672、4/59 个 n8n 工作流 Reject 后仍执行。

    实验设置

    • 被测模型:GPT-6.1-Sol(通用专有)、DeepSeek V4.1 Flash(低成本)、Claude Haiku 5.5(轻量低延迟),共 3 个。
    • 环境:τ-bench/τ²-bench Retail 工具(commit 96a3ef9)加作者编写的审批检查点;τ³ banking 扩展用于 Agno 委托实验;100 个公开 n8n 工作流;Mastra/AppWorld pilot。
    • 规模:模型层每模型 100 配对检查点 + 1,100 仅批准情节(五臂,共每模型 1,600);harness 层 CrewAI/Agno 矩阵 2,352 情节加配对修复控制,自然失效分析保留 1,344 个 CrewAI 情节;ADK 每模型 18 情节;banking 每协议 48 情节;n8n 漏斗 100 → 67 → 65 → 59 对(Table IV)。
    • 指标:完成率(带描述性 95% Wilson 区间)、被拒效果发生率;配对对比用精确 McNemar 检验和任务聚类 bootstrap。
    • 判定方式:原生工具执行和状态谓词见证,明确不用语言模型裁判;AI 标注仅作辅助(覆盖率 450/459、459/459、444/459)。
    • 重复:随机 30 任务子集上每臂 5 次;冻结诊断 20 任务 × 5 样本 × 3 臂(600 情节)。

    主结果

    配对面板(Table I,每模型 100 例):

    模型完成 [95% CI]被拒效果
    GPT-6.1-Sol96/100 [90.2, 98.4]0/100
    DeepSeek V4.1 Flash100/100 [96.3, 100]0/100
    Claude Haiku 5.597/100 [91.5, 99.0]0/100
    • 作者称:合计 293/300 完成(97.7%)、0/300 被拒效果;拒绝安全在配对面板上饱和,而完成需要跨轮次保持动作身份和未完成工作。
    • 扩展实验 3,232/3,300 完成(97.9%),68 个未完成批准(2.06%):GPT-6.1-Sol 44、DeepSeek V4.1 Flash 6、Claude Haiku 5.5 18。
    • 缺口集中在延迟继续、混合批次、延迟队列和确认相关案例(Figure 1);GPT-6.1-Sol 四个配对未完成各有原因(地址混淆、重复询问、重开已批准变更、披露价差后寻求确认)。

    提示臂对比(探索性)

    • 五臂失败率(Figure 2):O 臂 GPT-6.1-Sol 5.2%(26/500)、DeepSeek V4.1 Flash 1.2%(6/500)、Claude Haiku 5.5 2.0%(10/500);L(台账)臂三模型均 0%(0/150);S 臂 Claude Haiku 5.5 为 4.0%(6/150)而另两模型为 0%。
    • 配对统计:S 对 O 的 5/5 任务完成不一致对为 0/3(GPT-6.1-Sol,McNemar p=.25)、0/0(DeepSeek,p=1)、3/2(Claude,p=1);GPT-6.1-Sol 匹配子集上重述对比为 +5.33 个百分点(bootstrap 95% 区间 [0,6])。
    • 冻结诊断(Table II,20 任务 × 5 样本):O 完成 96/100,S 与 S+ledger 均 100/100;只有三个任务簇改善,增益 4.0 个百分点(区间 [0,9],符号检验 p=.25)。作者强调这支持诊断性干预,不是经验证的通用修复。

    Harness 层结果

    • ADK 并行确认:三模型在合并的 approve-both 下 3/3 任务各丢失恰好一个获批分支(每模型 3/18 情节);顺序回复和分开并行回复各丢 0/3。作者称失效转移点是确认回复聚合,持久化本身不能解释聚合丢失。
    • CrewAI 1.15.37 恢复:记录批准但在暂停的并行 join 或 router 后不重排获批步骤,遗漏 336/672 获批效果;全部 672 个 Reject 情节抑制了受保护效果。源码副本修复(恢复 join 记账并排空 sibling/router 处理)后 672/672 完成。
    • 重放控制:OpenAI Agents SDK 与 LangGraph 中 GPT-6.1-Sol 和 DeepSeek V4.1 Flash 各完成 36/36 控制;Claude Haiku 5.5 每框架完成 18/18 有效原始控制加 12/12 身份验证继续。

    Workflow 层结果

    • 拒绝失效:59 个策略可比工作流中 55 个在 Reject 后抑制受保护效果,4 个仍执行(6.8%;描述性 95% Wilson CI 2.7–16.2%)(Table IV)。
    • 四个具体失效:源 5152、5312、8318 不测试审批值就发送客户回复、排队视频创建、发布社交帖子;源 11526 进入拒绝分支但写入 Status=Approved。四个都通过源码级门存在性检查,但原生重放检出被拒效果。
    • 修复验证:把 11526 中的 Approved 改为 Pending 使 Approve/Reject 效果向量从 [1,1] 变为 [1,0];去重后 59 对中仍保留全部四个失效。

    其他消融与分析

    • Banking 转换(Table III,每族 16 情节):T1 状态变化下三协议各 4 次储备违约;T2 范围修订下 DeepSeek V4.1 Flash 有 8 次新获批工作遗漏,Claude Haiku 5.5 在 T3 委托下有 7 次遗漏。
    • 压力测试:六检查点 × 四种压力(发货紧迫、先前同意、选择性范围、目标持续性),每模型 24 对;全部 72 个 Reject 情节阻止被拒效果且完成允许的伴随工作,72 个 Approve 控制全部完成。
    • 台账与 triage 准确性:完成台账与原生标签一致(三模型 precision/recall 均 1.00);合成 triage 测试 120 个正确故障标签 + 20 个干净控制,准确率 1.00(作者注明只验证预声明固定样例)。
    • AI 标注一致性:两两 AI κ 为 0.347–0.367(严重度)和 0.190–0.477(工作流语义),作者称标签对解释敏感,原生效果仍是主要终点。
  5. 有什么可以进一步探索的点?

    作者指出面板不估计部署发生率、区间为描述性、AI 标注一致性低;实验覆盖三模型、四运行时设计和 59 个可比工作流。

    作者指出的局限与后续方向

    • 不估计部署发生率(第七节):面板诊断的是可复现机制;风险导向的检查点和重复转换情节不估计部署中的发生频率。
    • 区间是描述性的(第七节):描述性 Wilson 区间不是独立性声明。
    • AI 标注一致性低(第七节):两两 AI κ 为 0.347–0.367(严重度)和 0.190–0.477(工作流语义),作者称标签对解释敏感,原生效果仍是主要终点。
    • 合成 triage 的适用范围(第六、七节):合成 triage 准确率只描述其预声明的固定样例,不增加自然反例。
    • 协议不可横向比较(第七节):banking 变体保留各自不同的协议(如 Claude Haiku 5.5 的敏感性协议移除了冲突的预审指令才能到达检查点)。
    • 提示臂结论是探索性的(第三节):随机 30 任务比较是探索性且任务聚类的,作者称重述结果支持诊断性干预,不是经验证的通用修复。

    实验覆盖范围

    • 被测模型为 GPT-6.1-Sol、DeepSeek V4.1 Flash、Claude Haiku 5.5 共 3 个。
    • Harness 层覆盖 CrewAI、Agno、Google ADK、Mastra 四种审批设计,外加 OpenAI Agents SDK 和 LangGraph 重放;论文称 OpenAI Agents SDK 与 Agno/ADK 重叠、LangGraph 与 CrewAI/Mastra 重叠、AutoGen 共享保存状态编排,因此未单独全测。
    • Workflow 层从 100 个公开 n8n 源得到 59 个策略可比配对;效果只发生在克隆或拦截的服务上。
    • 模型层规模为每模型 100 配对 + 1,100 仅批准情节;配对对比的重复为每臂 5 次、随机 30 任务子集。
    • 论文未报告各实验的 API 查询总次数或耗时;工具包离线重算结果、无需再次调用 API。
  6. 总结一下论文的主要内容

    作者把人工审批拆成两项可验证义务,在三层边界上审计发现:拒绝普遍有效,但获批工作在各层都会丢失。

    一篇关于智能体人工审批有效性的实证审计论文,核心主张是:人批准了不代表智能体会做,人拒绝了也不代表它会停,必须把审批变成可独立验证的工程属性。

    • 问题:关键系统中人工审批常是最后控制,但界面记录决定不等于决定控制工作;作者形式化拒绝安全(被拒效果零发生)和有界授权完整性(获批且可行的工作在视界内完成)两项义务。
    • 方法:配对 Approve/Reject 决定、精确执行轨迹、原生业务状态见证(明确不用 LLM 裁判),沿模型选择调用、harness 调度恢复、workflow 路由三个边界审计;配套诊断流程(Figure 4)和离线工具包。
    • 模型层:三模型 300 组配对审批中 7 组获批工作未完成、被拒效果 0/300(Table I);扩展 3,300 情节中 68 个未完成(2.06%),缺口集中在延迟继续和混合批次。
    • Harness 层:Google ADK 合并并行批准在三模型上各丢失 3/3 任务的一个获批分支;CrewAI 1.15.37 恢复遗漏 336/672 获批效果,源码修复后 672/672 完成。
    • Workflow 层:59 个策略可比的公开 n8n 工作流中 4 个在 Reject 后仍执行受保护效果(6.8%),包括不检查审批值就执行和拒绝分支写入 Approved。
    • 作者结论:可见的人工审批环节可能造成控制的假象;设计不变量是跨每次转换保留最新带范围的决定及其极性、条件和待完成效果,直到原生证据解除义务。作者认为这为国防、航天等高风险场景的-agent 评估提供了可审计授权链的基础。

相关论文

共同使用 τ²-bench
再看 3 篇
共同使用 τ²-bench
阅读原文arxiv.org