跳到正文
10月9日 · 周五

全部论文

找到 9 篇
筛选4

攻击类型

提示注入2投毒与后门7检测规避3

攻击技术

梯度与表征优化1自动化搜索10编码与混淆1对话结构操控0跨模态载荷1针对防御9潜伏触发13诱导选用8

防御类型

模型加固1检测与过滤2

影响

有害内容1越权操作1数据与隐私泄露1输出被操纵3可用性与可靠性1监督失效2

系统形态

模型与 API4AI Agent5编程 Agent3

攻击者权限

黑盒1灰盒2白盒1

攻击面/入口

用户输入10文档与消息1工具返回2工具与技能描述5代码仓库与依赖1检索语料1图像与音视频2训练数据4权重与梯度4分发渠道3

层

应用层5训练与数据层4

系统组件

MCP 与技能5护栏与评审5监控器1微调与开源权重3音频1多模态1

被测模型厂商

其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 643 篇还没打标签，不在筛选结果里。
攻击技术：对话结构操控攻击技术：针对防御攻击面/入口：工具与技能描述攻击面/入口：训练数据清除全部

另有 643 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.09732

    ColluSkill 用跨技能组合绕过 Agent 技能扫描器

    提出 ColluSkill 跨技能组合攻击，拆分恶意载荷以绕过技能扫描器

    arXiv
    2608.09732
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、灰盒
    测试
    GPT-5.5、DeepSeek-V4-Pro、GLM-5.2

    摘要论文揭示了单技能孤立扫描的盲区，提出多技能链攻击 ColluSkill 与上下文防御 ChainGuard 并验证了有效性。

    深度解读完整解读
  2. 攻击arXiv 2610.07723

    研究者提出答案侧后门：让模型自生成触发词绕过安全拒答

    提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答

    arXiv
    2610.07723
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个

    摘要论文提出了多轮对话中回答端自生成触发词绕过安全拒绝的后门攻击，指出输入端防护存在盲区。

    深度解读完整解读
  3. 攻击arXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，利用 MCP 隐式信任诱导外发敏感文件

    arXiv
    2609.18217
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GPT-4o、GPT-4o-mini、GPT-5.4 等 15 个

    摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    深度解读完整解读
  4. 攻击arXiv 2609.39607

    Pretext 攻击绕过 NVIDIA SkillSpector 等 Agent 技能扫描器

    提出 PRETEXT 白盒攻击，迭代改写技能文本以绕过 Agent 技能扫描器

    arXiv
    2609.39607
    发表
    层
    应用层
    场景
    AI Agent
    攻击者
    白盒
    测试
    glm (z-ai/glm-5.1)、qwen3t (qwen/qwen3-235b-a22b-thinking-2507)、gpt-oss (openai/gpt-oss-120b) 等 4 个
    摘要论文提出了针对多阶段技能检测器的白盒攻击，揭示了单纯依赖大模型自适应检测的局限。

    PRETEXT 是一项针对基于“静态规则加语义大模型”的智能体技能安全检测框架的白盒攻击与协同进化评估研究。

    深度解读完整解读
  5. 攻击arXiv 2609.27124

    Fed-ADR：用恶意编排服务器协同客户端梯度操纵攻击联邦学习

    提出 Fed-ADR，用编排服务器协同操纵梯度攻破联邦学习并检测恢复

    arXiv
    2609.27124
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    灰盒
    测试
    CNN（MNIST：2 Conv + 3 FC）、CNN（Fashion-MNIST：6 Conv + 1 FC）、ResNet18（CIFAR-10）
    摘要Fed-ADR 用 gray-box 编排攻击绕过多种聚合防御，再用 Hessian 一致性检测和窗口内恢复把准确率拉回。

    Fed-ADR 是一套面向联邦学习的攻击、检测与恢复框架：编排服务器改写合谋客户端的梯度，使参数服务器的现有防御把投毒更新当成良性，同时在发现后用历史梯度把全局模型原地修回来。

    深度解读完整解读
  8. 攻击arXiv 2609.30383

    研究者提出技能级联攻击

    提出技能级联攻击，将恶意目标分散于多个技能以绕过单技能检测

    arXiv
    2609.30383
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-5.4、GPT-5.4 Mini、Claude Opus 4.6 等 10 个

    摘要论文探讨了多技能智能体系统面临的技能级联攻击风险，提出自动化红队框架与基准集，指出跨技能交互存在安全防护盲区。

    深度解读完整解读
已经到底了