跳到正文
10月9日 · 周五

全部论文

找到 10 篇
筛选4

攻击类型

越狱2提示注入9投毒与后门1

防御类型

模型加固6推理时干预3检测与过滤12指令与数据隔离6权限与审批7监控与审计6水印与溯源7

影响

有害内容1越权操作8输出被操纵1

系统形态

模型与 API1LLM 应用1AI Agent8网页与电脑操作1

攻击面/入口

用户输入14网页与界面15文档与消息9工具返回20工具与技能描述7代码仓库与依赖1检索语料3记忆写入5Agent 间消息3图像与音视频1分发渠道3推理服务与硬件1

层

提示层1应用层9

系统组件

MCP 与技能2记忆1护栏与评审1权限与沙箱7视觉2多模态2

被测模型厂商

OpenAI7Qwen（阿里）6Google5其他10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 600 篇还没打标签，不在筛选结果里。
防御类型：指令与数据隔离防御类型：权限与审批攻击面/入口：文档与消息攻击面/入口：图像与音视频清除全部

另有 600 篇论文还没打上分类标签，暂不在筛选结果里。

  5. 防御arXiv 2609.10613

    后验重加权框架解释并缓解多模态大模型上下文越狱

    用后验重加权解释多模态上下文越狱，并提出风险门控的良性示例注入防御

    arXiv
    2609.10613
    发表
    层
    提示层
    场景
    模型与 API
    测试
    Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等 9 个
    摘要后验重加权解释上下文越狱的缩放，并支持风险门控的良性示例防御。

    Zhang 等把多模态 ICL 越狱写成对齐模型在安全与有害隐模式之间的推理时后验漂移，并据此做风险门控防御。

    深度解读完整解读
  6. 防御arXiv 2609.22573

    研究提出面向企业 MCP 的零信任授权与工具发现方案

    提出企业 MCP 的零信任授权扩展，拒绝提示注入下的越权工具调用

    arXiv
    2609.22573
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gpt-5、claude-sonnet-4-6、claude-opus-4-7 等 6 个
    摘要同一份按工具声明同时管 MCP 的发现、列表和调用，使注入不能扩大已有凭证的权限。

    作者把零信任放在 MCP 工具调用边界：智能体即使被提示注入，也不能调用其凭证范围之外的工具。问题来自三点部署性质。调用意图会随不可信上下文改变。

    深度解读完整解读
已经到底了