跳到正文
10月10日 · 周六

全部论文

找到 3 篇
筛选7

攻击面/入口

用户输入29网页与界面6文档与消息10工具返回24工具与技能描述46记忆写入5Agent 间消息7训练数据0权重与梯度2分发渠道30推理服务与硬件1

层

模型层1应用层2

系统组件

MCP 与技能1监控器2微调与开源权重10图像生成3多模态3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 201 篇还没打标签，不在筛选结果里。
攻击面/入口：训练数据攻击面/入口：权重与梯度攻击面/入口：推理服务与硬件层：模型层层：应用层系统组件：MCP 与技能系统组件：监控器清除全部

另有 201 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.01931

    Agent Flight Recorder：为长时程工具调用智能体提供链上锚定的防篡改审计追踪

    提出 Agent Flight Recorder，为长时程工具智能体构建链上锚定的防篡改审计追踪

    arXiv
    2609.01931
    发表
    层
    应用层
    场景
    AI Agent
    摘要语义事件加哈希链、Merkle 与链上锚定，用来在争议中核验长程智能体的动作序列。

    Agent Flight Recorder 把长程工具智能体的动作收成可被第三方独立核验的审计记录，面向运营方本身可能改写历史的争议。

    深度解读完整解读
  2. 攻击arXiv 2608.06862

    SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

    提出 SYNCHAIN，诱导计算机使用 Agent 自建跨任务持久攻击链

    arXiv
    2608.06862
    发表
    层
    应用层
    场景
    网页与电脑操作、coding agent
    被测模型
    Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B

    摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。

    深度解读完整解读
  3. 防御arXiv 2608.05578

    AMS 工具通过激活分析检测语言模型的安全训练改动

    提出 AMS，用激活分离与方向相似度检测安全训练改动

    arXiv
    2608.05578
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct、Llama-3.2-1B-Instruct 等 14 个
    摘要AMS 按激活签名把安全改动分四类，前三类可由两级扫描覆盖，行为微调会漏。

    AMS 是面向开放权重模型、部署前使用的激活扫描器，用来看安全训练被拿掉或改写之后，激活空间里还留着什么几何痕迹。

    深度解读完整解读
已经到底了