跳到正文
10月9日 · 周五

OpenAI · 论文

找到 4 篇
筛选5

攻击类型

提示注入2投毒与后门1恶意使用1

攻击技术

多轮渐进1编码与混淆1潜伏触发1

模型自身风险

危险能力1

防御类型

监控与审计1

影响

越权操作3滥用能力提升1

系统形态

模型与 API14LLM 应用1AI Agent9编程 Agent4网页与电脑操作1多智能体1

攻击者权限

黑盒1

攻击面/入口

用户输入1文档与消息2工具返回1工具与技能描述3代码仓库与依赖4记忆写入3Agent 间消息1权重与梯度1分发渠道1

层

应用层4

系统组件

MCP 与技能1记忆1监控器1微调与开源权重1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 26 篇还没打标签，不在筛选结果里。
系统形态：编程 Agent攻击面/入口：用户输入攻击面/入口：文档与消息攻击面/入口：工具返回攻击面/入口：权重与梯度话题：OpenAI清除全部

另有 26 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出路径对齐归因 PAA，在边界动作前审计长流程智能体的分段提示注入

    arXiv
    2610.05163
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
  3. 攻击arXiv 2609.15383

    微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力

    arXiv
    2609.15383
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒
    测试
    GPT-5.5、Claude Opus 4.8、Grok-4.3 等 7 个

    摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。

    深度解读完整解读
  4. 攻击arXiv 2608.06862

    SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

    提出 SYNCHAIN，诱导计算机使用 Agent 自合成潜伏技能并跨任务触发

    arXiv
    2608.06862
    发表
    层
    应用层
    场景
    网页与电脑操作、编程 Agent
    测试
    Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 5 个

    摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。

    深度解读完整解读
已经到底了