跳到正文
10月9日 · 周五

全部论文

找到 8 篇
筛选4

攻击类型

越狱2提示注入7拒绝服务1

攻击技术

自动化搜索1编码与混淆2针对防御1

模型自身风险

幻觉与编造1

防御类型

检测与过滤1指令与数据隔离2权限与审批2监控与审计1

影响

有害内容1越权操作4数据与隐私泄露1输出被操纵1可用性与可靠性1

系统形态

AI Agent8编程 Agent1

攻击者权限

黑盒1

攻击面/入口

用户输入16网页与界面3文档与消息7工具返回8工具与技能描述5代码仓库与依赖2检索语料2记忆写入4Agent 间消息2训练数据1权重与梯度2分发渠道6

层

模型层0应用层8

系统组件

MCP 与技能1护栏与评审1监控器2权限与沙箱2

被测模型厂商

OpenAI39Qwen（阿里）31Meta22Anthropic21Google19DeepSeek17智谱 GLM10Kimi（月之暗面）10Mistral8其他23
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 648 篇还没打标签，不在筛选结果里。
攻击面/入口：工具返回层：模型层层：应用层被测模型厂商：Mistral清除全部

另有 648 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.11757

    研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

    提出 Whisper 攻击与 A-VIP 绑定防御，约束智能体支付决策

    arXiv
    2609.11757
    发表
    层
    应用层
    场景
    AI Agent
    测试
    mistral-large、gemini-2.5-flash-lite、gemini-3.1-flash-lite 等 15 个

    摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。

    深度解读完整解读
  3. 攻击arXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，利用 MCP 隐式信任诱导外发敏感文件

    arXiv
    2609.18217
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Mistral-Large、GPT-4o、GPT-4o-mini 等 15 个

    摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    深度解读完整解读
  5. 评测与基准arXiv 2604.07223

    TraceSafe-Bench：评估 LLM 护栏在多步工具调用轨迹上的表现

    提出基准 TRACE SAFE-BENCH 评测多步工具调用轨迹护栏

    arXiv
    2604.07223
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Ministral-14B、GPT-5 mini、GPT-5.4 mini 等 15 个
    摘要TRACE SAFE-BENCH 用可控变异评轨迹护栏，结构能力比规模和越狱鲁棒性更相关。

    TRACE SAFE-BENCH 用固定的多步工具轨迹评护栏，问的是不安全动作到达环境之前能否被拦住，而不是智能体自己会不会拒绝。

    深度解读完整解读
  6. 攻击arXiv 2609.28585

    论文提出持久计费状态概念，揭示工具调用 LLM Agent 的拒绝钱包攻击与防御

    提出工具调用 Agent 的拒绝钱包攻击及主机侧计费约束

    arXiv
    2609.28585
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Mistral-Large、Mistral Small 4、Mistral 等 9 个
    摘要已准入工具返回的跨轮保留会重复计费。

    这篇工作把工具调用智能体里跨轮保留、并被提供商反复计费的外部工具返回定义为 persistent billable state，并把它的主机侧再次送入决定当作控制点。。

    深度解读完整解读
已经到底了