论文揭示 LLM Agent 工具调用在执行路径中被改写,并提出 IntAct 修复方案
作者提出IEC协议与IntAct,发现工具调用经执行路径多跳易被静默篡改,修复对应跳后在IEC-Bench恢复79.2%失败。
- 12.0%生产会话中Claude Code Bash工具传输代码/转义/长文本时的changed-call rate(Table 2)
- 80.7%生产会话中反斜杠对被合并的Bash调用中未报错静默执行错误动作的比例(Figure 3b)
- 0.77IEC协议在102个生产调用失败归因中与人工标注的一致性Cohen's kappa(Table 5)
工具调用在执行路径各跳中常遭隐蔽篡改,现有分析误将路径故障归咎于模型,缺乏跨跳观测与修复机制。
现有工作集中于轨迹级失败归因、自纠错与单跳包装器分析,缺乏对多跳执行路径的无执行观测与系统性跳级修复。
定义意图-执行对应性,利用见证机制与接收端解析器无执行定位首偏离跳,通过IntAct在对应跳实施通道渲染与拒绝。
覆盖生产会话、公共基准与注入测试,所测10种框架均出现跳级篡改,IntAct在固定动作下恢复79.2%的变更失败。
作者指出需扩展终端键入测量与兼顾框架权限系统,当前实验主要覆盖具备解析器的跃点类型与特定评测配置。
论文界定工具调用在执行路径中的意图偏离问题,提出无执行归因协议与跳级修复,为智能体工程提供评测与设计准则。