跳到正文
10月8日 · 周四

全部论文

找到 5 篇
筛选3

攻击类型

越狱3提示注入15投毒与后门2提取与窃取1

防御类型

检测与过滤1指令与数据隔离1权限与审批5

影响

越权操作4数据与隐私泄露1

系统形态

AI Agent5编程 Agent1多智能体1

攻击面/入口

用户输入3文档与消息1工具返回1工具与技能描述1检索语料1记忆写入1分发渠道1

层

应用层5

系统组件

MCP 与技能6记忆4RAG2护栏与评审7监控器8推理链2权限与沙箱5微调与开源权重6视觉8音频1图像生成1多模态10

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 701 篇还没打标签，不在筛选结果里。
攻击类型：越狱攻击类型：投毒与后门系统组件：权限与沙箱清除全部

另有 701 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2608.21101

    ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

    提出多层监控网关 ClawSentry，拦截恶意技能供应链与上下文注入

    arXiv
    2608.21101
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Codex/GPT-5.4、Codex/GPT-5.5、Claude Code/GLM-5.1 等 7 个
    摘要ClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。

    ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。

    深度解读完整解读
  3. 防御arXiv 2609.17648

    多智能体 LLM 流水线中的信任传播与结构隔离

    提出任务绑定令牌与策略预言机，在多智能体流水线中拦截未授权执行

    arXiv
    2609.17648
    发表
    层
    应用层
    场景
    多智能体
    测试
    gemma4:31b-cloud
    摘要结构性授权拦住了记忆投毒的未授权执行，持密钥时承重的是策略预言机。

    作者在一条会改写沙箱邮件库的四智能体流水线上，检查低权限失陷会不会变成未授权的真实动作。

    深度解读完整解读
  4. 防御arXiv 2609.28693

    skilder：以角色化技能包为工具型 LLM 智能体做访问控制

    提出 Skilder，用角色技能包和 MCP 路由硬拦截越权工具调用

    arXiv
    2609.28693
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Claude Haiku 4.5、Qwen 3.5 122B、Gemma 4 31B 等 7 个
    摘要Skilder 用单 MCP 服务器按角色交付工具并硬拦截。

    Skilder 把企业工具型智能体的能力按角色打包，经一个 MCP 服务器做渐进发现，使工具范围由服务器而不是提示词来执行。

    深度解读完整解读
  5. 防御arXiv 2609.34518

    SEAD 论文提出工具型 Agent 的状态视角攻击与防御方法 DART 与 SAGE

    提出工具智能体的状态攻击 DART 与预执行防御 SAGE

    arXiv
    2609.34518
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-5.6 Luna、GPT-5.6 Terra、Gemini 3.8 Flash 等 8 个

    摘要论文提出状态控制框架 SEAD、攻击 DART 与防御 SAGE，实验显示执行反馈与环境探测在攻防交互中具有关键作用。

    深度解读完整解读
已经到底了