跳到正文
10月9日 · 周五

提示注入 · 论文

找到 6 篇
筛选5

攻击类型

提示注入6

攻击技术

自动化搜索1编码与混淆2针对防御1

模型自身风险

失准与价值偏离1幻觉与编造1

防御类型

检测与过滤1指令与数据隔离1权限与审批2

影响

越权操作4数据与隐私泄露1输出被操纵1

系统形态

模型与 API1LLM 应用3AI Agent6编程 Agent1网页与电脑操作0多智能体1

攻击面/入口

网页与界面1文档与消息2工具返回5工具与技能描述1代码仓库与依赖1记忆写入1Agent 间消息1

层

应用层6

系统组件

MCP 与技能1记忆1护栏与评审1权限与沙箱2

被测模型厂商

OpenAI40Qwen（阿里）29Anthropic26Google24DeepSeek19Meta19智谱 GLM10Kimi（月之暗面）9Mistral6xAI6MiniMax5其他18
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 40 篇还没打标签，不在筛选结果里。
系统形态：AI Agent系统形态：编程 Agent系统形态：网页与电脑操作系统形态：多智能体被测模型厂商：Mistral话题：提示注入清除全部

另有 40 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.11757

    研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

    提出 Whisper 攻击与 A-VIP 绑定防御，约束智能体支付决策

    arXiv
    2609.11757
    发表
    层
    应用层
    场景
    AI Agent
    测试
    mistral-large、gemini-2.5-flash-lite、gemini-3.1-flash-lite 等 15 个

    摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。

    深度解读完整解读
  2. 攻击arXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，利用 MCP 隐式信任诱导外发敏感文件

    arXiv
    2609.18217
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Mistral-Large、GPT-4o、GPT-4o-mini 等 15 个

    摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    深度解读完整解读
  3. 评测与基准arXiv 2604.07223

    TraceSafe-Bench：评估 LLM 护栏在多步工具调用轨迹上的表现

    提出基准 TRACE SAFE-BENCH 评测多步工具调用轨迹护栏

    arXiv
    2604.07223
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Ministral-14B、GPT-5 mini、GPT-5.4 mini 等 15 个
    摘要TRACE SAFE-BENCH 用可控变异评轨迹护栏，结构能力比规模和越狱鲁棒性更相关。

    TRACE SAFE-BENCH 用固定的多步工具轨迹评护栏，问的是不安全动作到达环境之前能否被拦住，而不是智能体自己会不会拒绝。

    深度解读完整解读
  4. 评测与基准arXiv 2609.17320

    Emergence World：对长时程多智能体系统开展对抗压力测试

    构建 Emergence World，评测长时程多智能体对抗韧性与群体失效

    arXiv
    2609.17320
    发表
    层
    应用层
    场景
    多智能体
    测试
    Mistral Medium 3.5、Claude Opus 4.8、DeepSeek v4 Pro 等 9 个

    摘要作者通过长期平行世界实验指出模型对齐不具备可组合性，单模型群体会产生社会奉承、协同退缩及语言不透明等失效。

    深度解读完整解读
已经到底了