跳到正文
10月8日 · 周四

全部论文

找到 10 篇
筛选1

攻击类型

投毒与后门5模型篡改3提取与窃取2

攻击技术

梯度与表征优化3潜伏触发5

模型自身风险

欺骗与谋划2

影响

有害内容1越权操作2数据与隐私泄露3输出被操纵1可用性与可靠性1监督失效2

系统形态

模型与 API6AI Agent4编程 Agent2具身与机器人1

攻击者权限

灰盒2白盒3

攻击面/入口

用户输入35网页与界面5文档与消息6工具返回10工具与技能描述15代码仓库与依赖8检索语料3记忆写入9Agent 间消息3图像与音视频9训练数据6权重与梯度10分发渠道14推理服务与硬件4

层

模型层3训练与数据层7

系统组件

微调与开源权重6音频1多模态1

被测模型厂商

Qwen（阿里）7其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1065 篇还没打标签，不在筛选结果里。
攻击面/入口：权重与梯度清除全部

另有 1065 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2610.07510 ·

    PersistBD：攻击者可在发布前强化后门，使其在开发者 SFT 与 RL 后仍保持高攻击成功率

    提出 PERSISTBD，在发布前强化后门使其经良性后训练仍然存活

    编程 Agent测试Qwen2.5-Coder-3B-Instruct、Qwen2.5-Coder-7B-Instruct、Qwen3-Coder-30B-A3B-Instruct训练与数据层
    摘要总结了论文关于后门在 SFT/RL 中存活的发现、两因子机制、PERSISTBD 方法与核心数字。

    本文研究第三方 LLM 智能体在开发者进行良性监督微调（SFT）和强化学习（RL）后训练时的后门持久性风险。

    完整解读
  3. 攻击arXiv:2610.05793 ·

    研究者训练出按多智能体拓扑触发的代码后门模型

    微调植入拓扑条件后门，使代码模型在推断多智能体部署时插入隐蔽漏洞

    编程 Agent测试Qwen2.5-7B-Instruct、Qwen2.5-Coder-7B-Instruct训练与数据层

    摘要论文证实了拓扑条件后门的可训练性与泛化性，展示了常规评测盲区，并提出差异化拓扑审计作为检测防御方向。

    完整解读
  5. 攻击arXiv:2610.01365 ·

    ReGap：无需真实隐私数据即可通过微调重新提取模型隐私关联

    提出 ReGap，用自生成伪监督微调恢复模型中的隐私关联

    模型与 API攻击者白盒灰盒测试GPT-2 Small、GPT-2 Medium、GPT-2 Large 等 6 个训练与数据层

    摘要提出无真实私有监督的恢复攻击 ReGap，实验显示微调可通过自生成数据唤醒模型潜在隐私关联，突显后适应隐私风险。

    完整解读
  6. 攻击arXiv:2609.04382 ·

    研究揭示 split-LLM 训练中返回梯度泄露真实行，前向隐私门仍通过

    揭示拆分训练返回梯度以零支撑暴露诱饵行并泄露训练内容

    模型与 API攻击者白盒测试Qwen3-0.6B、35B-A3B训练与数据层
    摘要论文揭示拆分训练中反向梯度零支撑完全暴露诱饵行，联合视图突破门控，裁剪加噪可有效缓解。

    这是一项关于双节点大语言模型拆分训练系统的系统安全案例研究，揭示了评估工具遗漏反向信道所导致的静默隐私失效。

    完整解读
  7. 攻击arXiv:2610.01062 ·

    Kernelized Activation Steering：将激活引导推广到再生核希尔伯特空间的新框架

    提出核化激活引导 KAS，在推理时自适应转向激活以诱导越狱

    模型与 API测试Qwen2.5-7B-Instruct、Gemma-2-9B-IT、Llama-3.1-8B-Instruct 等 6 个模型层
    摘要KAS 用核梯度做局部自适应转向，并在线性核下恢复 DiM。

    Kernelized Activation Steering（KAS） 把推理时的激活转向写成核空间中的优化，使更新随当前激活相对源、目标参考集的位置而变化。

    完整解读
已经到底了