跳到正文
10月8日 · 周四

Anthropic · 论文

精选论文 29 篇
  1. 分析/可解释性arXiv:2610.04375 · 59

    论文揭示 LLM Agent 工具调用在执行路径中被改写,并提出 IntAct 修复方案

    作者提出IEC协议与IntAct,发现工具调用经执行路径多跳易被静默篡改,修复对应跳后在IEC-Bench恢复79.2%失败。

    • 12.0%生产会话中Claude Code Bash工具传输代码/转义/长文本时的changed-call rate(Table 2)
    • 80.7%生产会话中反斜杠对被合并的Bash调用中未报错静默执行错误动作的比例(Figure 3b)
    • 0.77IEC协议在102个生产调用失败归因中与人工标注的一致性Cohen's kappa(Table 5)
    6 问速览工具调用在执行路径各跳中常遭隐蔽篡改,现有分析误将路径故障归咎于模型,缺乏跨跳观测与修复机制。
    1. 这篇论文试图解决什么问题?

      工具调用在执行路径各跳中常遭隐蔽篡改,现有分析误将路径故障归咎于模型,缺乏跨跳观测与修复机制。

    2. 有哪些相关研究?

      现有工作集中于轨迹级失败归因、自纠错与单跳包装器分析,缺乏对多跳执行路径的无执行观测与系统性跳级修复。

    3. 论文如何解决这个问题?

      定义意图-执行对应性,利用见证机制与接收端解析器无执行定位首偏离跳,通过IntAct在对应跳实施通道渲染与拒绝。

    4. 论文做了哪些实验?

      覆盖生产会话、公共基准与注入测试,所测10种框架均出现跳级篡改,IntAct在固定动作下恢复79.2%的变更失败。

    5. 有什么可以进一步探索的点?

      作者指出需扩展终端键入测量与兼顾框架权限系统,当前实验主要覆盖具备解析器的跃点类型与特定评测配置。

    6. 总结一下论文的主要内容

      论文界定工具调用在执行路径中的意图偏离问题,提出无执行归因协议与跳级修复,为智能体工程提供评测与设计准则。

    完整解读
已经到底了