跳到正文
10月9日 · 周五

全部论文

找到 5 篇
筛选4

攻击类型

提示注入3投毒与后门2

攻击技术

自动化搜索1对话结构操控1推理链操控1针对防御1潜伏触发1诱导选用1

防御类型

指令与数据隔离1权限与审批1

影响

越权操作2数据与隐私泄露1输出被操纵2

系统形态

AI Agent5编程 Agent1

攻击面/入口

用户输入6文档与消息1工具返回3工具与技能描述3代码仓库与依赖2Agent 间消息1分发渠道1

层

应用层5

系统组件

MCP 与技能17记忆3护栏与评审4监控器2推理链1权限与沙箱3视觉1多模态1

被测模型厂商

DeepSeek5其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 669 篇还没打标签，不在筛选结果里。
攻击面/入口：工具返回攻击面/入口：工具与技能描述系统组件：监控器系统组件：权限与沙箱清除全部

另有 669 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.11757

    研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

    提出 Whisper 攻击与 A-VIP 绑定防御，约束智能体支付决策

    arXiv
    2609.11757
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个

    摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。

    深度解读完整解读
  3. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入，清空工具智能体推理链以绕过思维链监控

    arXiv
    2609.27542
    发表
    层
    应用层
    场景
    AI Agent
    测试
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。

    深度解读完整解读
已经到底了