跳到正文
10月9日 · 周五

全部论文

找到 3 篇
筛选6

防御类型

模型加固10检测与过滤2权限与审批1监控与审计3

系统形态

模型与 API2AI Agent3coding agent1

攻击面/入口

用户输入16工具返回3工具与技能描述7代码仓库与依赖1图像与音视频7训练数据4权重与梯度2分发渠道5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 519 篇还没打标签，不在筛选结果里。
防御类型：检测与过滤防御类型：权限与审批系统形态：模型与 API系统形态：coding agent攻击面/入口：代码仓库与依赖攻击面/入口：权重与梯度清除全部

另有 519 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.35659

    Tracekit：面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改

    arXiv
    2609.35659
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Claude Code (claude -p, version 2.1)、独立评审（同一 CLI，无工具）
    摘要Tracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。

    深度解读完整解读
  2. 攻击arXiv 2609.27124

    Fed-ADR：用恶意编排服务器协同客户端梯度操纵攻击联邦学习

    提出 Fed-ADR，用编排服务器协同操纵梯度攻破联邦学习并检测恢复

    arXiv
    2609.27124
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    灰盒
    被测模型
    CNN（MNIST：2 Conv + 3 FC）、CNN（Fashion-MNIST：6 Conv + 1 FC）、ResNet18（CIFAR-10）
    摘要Fed-ADR 用 gray-box 编排攻击绕过多种聚合防御，再用 Hessian 一致性检测和窗口内恢复把准确率拉回。

    Fed-ADR 是一套面向联邦学习的攻击、检测与恢复框架：编排服务器改写合谋客户端的梯度，使参数服务器的现有防御把投毒更新当成良性，同时在发现后用历史梯度把全局模型原地修回来。

    深度解读完整解读
已经到底了