跳到正文
10月9日 · 周五

全部论文

找到 24 篇
筛选7

攻击类型

越狱1提示注入23投毒与后门7检测规避1

模型自身风险

Agent 危险操作3

防御类型

模型加固2检测与过滤8指令与数据隔离8权限与审批14监控与审计8水印与溯源1

影响

越权操作18数据与隐私泄露2输出被操纵2

系统形态

LLM 应用1AI Agent23编程 Agent5网页与电脑操作1多智能体2

攻击面/入口

用户输入20网页与界面18文档与消息16工具返回31工具与技能描述10代码仓库与依赖2检索语料4记忆写入7Agent 间消息3分发渠道6

层

应用层24

系统组件

MCP 与技能6记忆6护栏与评审1监控器8推理链1权限与沙箱13视觉1多模态1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 451 篇还没打标签，不在筛选结果里。
防御类型：指令与数据隔离防御类型：权限与审批防御类型：监控与审计攻击面/入口：文档与消息攻击面/入口：代码仓库与依赖攻击面/入口：记忆写入层：应用层清除全部

另有 451 篇论文还没打上分类标签，暂不在筛选结果里。

  5. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出路径对齐归因 PAA，在边界动作前审计长流程智能体的分段提示注入

    arXiv
    2610.05163
    发表
    层
    应用层
    场景
    编程 Agent
    被测模型
    Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
  10. 防御arXiv 2610.00371

    FlowReview：以授权配对评测控制多智能体组合信息流

    提出 FlowReview，用对象解析与确定性提交门控制多智能体组合信息流

    arXiv
    2610.00371
    发表
    层
    应用层
    场景
    多智能体
    摘要配对标准要求拒绝禁止使用并完成授权使用，FlowReview 把三项审查接到执行。

    这篇工作把多智能体安全写成一件必须同时成立的事：拦住组合信息所启用的禁止使用，并完成同一场景里任务所需的授权使用。

    深度解读完整解读
  11. 防御arXiv 2609.29647

    AgentKernel：面向 Agent 的可信原生操作系统内核

    提出 AgentKernel，强制中介 Agent 的身份、感知、认知与执行

    arXiv
    2609.29647
    发表
    层
    应用层
    场景
    AI Agent
    摘要AgentKernel 是四支柱智能体 OS 设计，安全论证未附带实测数字。

    AgentKernel 是把安全做成组织原则的智能体 OS 架构，不是带跑分的攻防评测。

    深度解读完整解读
  15. 防御arXiv 2609.22573

    研究提出面向企业 MCP 的零信任授权与工具发现方案

    提出企业 MCP 的零信任授权扩展，拒绝提示注入下的越权工具调用

    arXiv
    2609.22573
    发表
    层
    应用层
    场景
    AI Agent
    摘要同一份按工具声明同时管 MCP 的发现、列表和调用，使注入不能扩大已有凭证的权限。

    作者把零信任放在 MCP 工具调用边界：智能体即使被提示注入，也不能调用其凭证范围之外的工具。问题来自三点部署性质。调用意图会随不可信上下文改变。

    深度解读完整解读
  19. 防御arXiv 2609.17648

    多智能体 LLM 流水线中的信任传播与结构隔离

    提出任务绑定令牌与策略预言机，在多智能体流水线中拦截未授权执行

    arXiv
    2609.17648
    发表
    层
    应用层
    场景
    多智能体
    摘要结构性授权拦住了记忆投毒的未授权执行，持密钥时承重的是策略预言机。

    作者在一条会改写沙箱邮件库的四智能体流水线上，检查低权限失陷会不会变成未授权的真实动作。

    深度解读完整解读
加载更多