跳到正文
10月9日 · 周五

OpenAI · 论文

找到 2 篇
筛选4

攻击类型

提示注入1

模型自身风险

Agent 危险操作1

防御类型

检测与过滤2指令与数据隔离0权限与审批2监控与审计2

影响

越权操作2

系统形态

AI Agent2编程 Agent1

攻击面/入口

工具返回1

层

模型层0应用层2

系统组件

权限与沙箱2

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 14 篇还没打标签，不在筛选结果里。
防御类型：指令与数据隔离防御类型：权限与审批层：模型层层：应用层话题：OpenAI清除全部

另有 14 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.38983

    论文提出 Approval Laundering 分类，实测 Claude Code 审批与执行绑定失败

    提出 Approval Token 绑定编程智能体的审批与执行

    arXiv
    2609.38983
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Code (v2.1.197, opus[1m] / claude-sonnet-5-ccmax)、Codex CLI (@openai/codex v0.154.0)

    摘要系统揭示编程智能体审批洗白风险，提出七字段权能防御机制，证实其能消除身份时序偏离但难防副作用偏离。

    深度解读完整解读
  2. 防御arXiv 2609.31039

    MetaPermit：通过 LLM 推断元属性为 AI Agent 提供可扩展可审计的访问控制

    提出 MetaPermit，用元属性与固定策略挡住工具返回中的间接提示注入

    arXiv
    2609.31039
    发表
    层
    应用层
    场景
    AI Agent
    测试
    MiniMax-M2.7、Qwen3-235B-a22-2507、Qwen3-8B
    摘要MetaPermit 用固定策略评估 LLM 推断的元属性，在两个开源模型上把攻击成功压到接近零并保留更多效用。

    MetaPermit 是面向工具使用 LLM 智能体的混合访问控制：LLM 描述候选调用，固定策略决定是否放行。

    深度解读完整解读
已经到底了