跳到正文
10月8日 · 周四

Anthropic · 论文

找到 2 篇
筛选2

模型自身风险

欺骗与谋划1Agent 危险操作2拒答失当0

防御类型

指令与数据隔离1权限与审批2

影响

越权操作2

系统形态

AI Agent2编程 Agent2

层

应用层2

系统组件

权限与沙箱1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 16 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作模型自身风险：拒答失当话题：Anthropic清除全部

另有 16 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv:2610.04375 ·

    论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案

    提出 IEC 协议与 IntAct，定位并修复工具调用执行路径的静默篡改

    编程 Agent测试qwen3-coder-plus、Qwen2.5-Coder-32B、Qwen2.5-72B 等 4 个应用层

    摘要论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。

    完整解读
  2. 防御arXiv:2609.38983 ·

    论文提出 Approval Laundering 分类，实测 Claude Code 审批与执行绑定失败

    提出 Approval Token 绑定编程智能体的审批与执行

    编程 Agent测试Claude Code (v2.1.197, opus[1m] / claude-sonnet-5-ccmax)、Codex CLI (@openai/codex v0.154.0)应用层

    摘要系统揭示编程智能体审批洗白风险，提出七字段权能防御机制，证实其能消除身份时序偏离但难防副作用偏离。

    完整解读
已经到底了