跳到正文
10月8日 · 周四

Anthropic · 论文

找到 3 篇
筛选2

攻击类型

提示注入2

模型自身风险

Agent 危险操作2

防御类型

权限与审批3监控与审计1

影响

越权操作3

系统形态

AI Agent3编程 Agent2

攻击面/入口

网页与界面1工具返回2代码仓库与依赖1

层

应用层3

系统组件

监控器1推理链1权限与沙箱3

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 18 篇还没打标签，不在筛选结果里。
防御类型：权限与审批系统组件：权限与沙箱话题：Anthropic清除全部

另有 18 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.38983

    论文提出 Approval Laundering 分类，实测 Claude Code 审批与执行绑定失败

    提出 Approval Token 绑定编程智能体的审批与执行

    arXiv
    2609.38983
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Code (v2.1.197, opus[1m] / claude-sonnet-5-ccmax)、Codex CLI (@openai/codex v0.154.0)

    摘要系统揭示编程智能体审批洗白风险，提出七字段权能防御机制，证实其能消除身份时序偏离但难防副作用偏离。

    深度解读完整解读
  2. 防御arXiv 2609.31039

    MetaPermit：通过 LLM 推断元属性为 AI Agent 提供可扩展可审计的访问控制

    提出 MetaPermit，用元属性与固定策略挡住工具返回中的间接提示注入

    arXiv
    2609.31039
    发表
    层
    应用层
    场景
    AI Agent
    测试
    MiniMax-M2.7、Qwen3-235B-a22-2507、Qwen3-8B
    摘要MetaPermit 用固定策略评估 LLM 推断的元属性，在两个开源模型上把攻击成功压到接近零并保留更多效用。

    MetaPermit 是面向工具使用 LLM 智能体的混合访问控制：LLM 描述候选调用，固定策略决定是否放行。

    深度解读完整解读
  3. 防御arXiv 2609.35659

    Tracekit：面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit，对编码 Agent 做防篡改的意图-推理-动作审计

    arXiv
    2609.35659
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Code (claude -p, version 2.1)、独立评审（同一 CLI，无工具）
    摘要Tracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。

    深度解读完整解读
已经到底了