跳到正文
10月12日 · 周一

全部论文

找到 6篇
筛选3

攻击类型

投毒与后门4

攻击技术

潜伏触发4

影响

有害内容26越权操作4数据与隐私泄露14输出被操纵15可用性与可靠性3监督失效6滥用能力提升2

系统形态

AI Agent4

攻击面/入口

用户输入46网页与界面41文档与消息40工具返回69工具与技能描述40代码仓库与依赖15检索语料6记忆写入21Agent 间消息8图像与音视频9权重与梯度6分发渠道27

层

训练与数据层5

系统组件

微调与开源权重6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 232篇还没打标签，不在筛选结果里。
影响：越权操作影响：滥用能力提升攻击面/入口：权重与梯度清除全部

另有232篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.09004

    研究：去除有害信息不足以证明开源权重模型的抗篡改能力

    论证发布时互信息不能认证开源权重抗微调恢复

    arXiv
    2610.09004
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    EleutherAI/deep-ignorance-e2e-strong-filter、EleutherAI/deep-ignorance-unfiltered、Google BERT-Tiny 等6个
    摘要作者称零信息仍可一步恢复，表观抗微调可来自参数化。

    作者研究开源权重模型的篡改抵抗：发布时的互信息是否足以保证微调恢复很慢。

    深度解读完整解读
  2. 防御arXiv 2609.39866

    研究者提出梯度封堵实现 LLM 发布前的预防性遗忘

    提出 GSU 在发布前封堵敏感门梯度，抵抗下游微调获取禁止能力

    arXiv
    2609.39866
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    Llama-3.2-1B、Llama-3.2-3B、Llama-3.1-8B 等7个
    摘要GSU 在发布前封堵 SiLU 门的获取梯度，并在 TOFU 与 WMDP 上降低下游微调得分。

    Gradient-Sealed Unlearning（GSU）是一种发布前的 preemptive unlearning：不删除模型里已经有的能力，而是让指定禁止域能力更难被发布后的微调获取。

    深度解读完整解读
  3. 攻击arXiv 2609.14060

    AgentQ：针对 LLM Agent 的量化条件后门攻击

    提出量化条件后门 AGENTQ，使智能体仅在量化后触发恶意工具调用

    arXiv
    2609.14060
    发表
    层
    训练与数据层
    场景
    AI Agent
    被测模型
    Qwen3.5-2B、Qwen3.5-4B、Qwen3.5-9B 等6个

    摘要论文研究了智能体量化条件后门风险，提出 AGENTQ 在保持效用的同时实现全精度隐蔽与量化后生效。

    深度解读完整解读
  4. 攻击arXiv 2609.07051

    TrojanWorld：通过想象引导对世界模型智能体植入后门

    提出 TrojanWorld，用物理触发器对世界模型智能体植入想象引导后门

    arXiv
    2609.07051
    发表
    层
    训练与数据层
    场景
    具身与机器人
    被测模型
    TD-MPC2、DreamerV3、R2-Dreamer

    摘要TrojanWorld 揭示了世界模型智能体的供应链后门风险，通过在世界模型中操纵想象可实现对闭环动作的持续控制。

    深度解读完整解读
  5. 攻击arXiv 2608.06862

    SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

    提出 SYNCHAIN，诱导计算机使用 Agent 自建跨任务持久攻击链

    arXiv
    2608.06862
    发表
    层
    应用层
    场景
    网页与电脑操作、coding agent
    被测模型
    Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B

    摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。

    深度解读完整解读
  6. 攻击arXiv 2604.03890

    从提示到物理动作：针对 LLM 中介机器人控制系统的结构化后门攻击

    提出结构化 JSON 后门，经投毒 LoRA 在机器人控制中触发恶意动作

    arXiv
    2604.03890
    发表
    层
    训练与数据层
    场景
    具身与机器人、LLM 应用
    被测模型
    Llama-3.1-8B-Instruct、Gemma-2-9B-IT、DeepSeek-R1-Distill-Llama-8B 等4个

    摘要推理层后门传不到执行。

    深度解读完整解读
已经到底了