跳到正文
10月8日 · 周四

隐私与数据泄露 · 论文

找到 9 篇
筛选2

攻击类型

提示注入2投毒与后门2提取与窃取7

攻击技术

自动化搜索1编码与混淆1对话结构操控1推理链操控1侧信道1针对防御1潜伏触发2

影响

数据与隐私泄露9

系统形态

模型与 API6LLM 应用2AI Agent10编程 Agent3网页与电脑操作1

攻击者权限

黑盒5灰盒1白盒2

攻击面/入口

用户输入4文档与消息1工具返回1工具与技能描述1代码仓库与依赖1记忆写入1图像与音视频1训练数据2权重与梯度2推理服务与硬件1

层

提示层1模型层1应用层3训练与数据层3基础设施层1

系统组件

MCP 与技能2记忆1护栏与评审1推理链1微调与开源权重2

被测模型厂商

OpenAI6Qwen（阿里）6其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 113 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent话题：隐私与数据泄露清除全部

另有 113 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv:2610.01365 ·

    ReGap：无需真实隐私数据即可通过微调重新提取模型隐私关联

    提出 ReGap，用自生成伪监督微调恢复模型中的隐私关联

    模型与 API攻击者白盒灰盒测试GPT-2 Small、GPT-2 Medium、GPT-2 Large 等 6 个训练与数据层

    摘要提出无真实私有监督的恢复攻击 ReGap，实验显示微调可通过自生成数据唤醒模型潜在隐私关联，突显后适应隐私风险。

    完整解读
  5. 攻击arXiv:2609.04382 ·

    研究揭示 split-LLM 训练中返回梯度泄露真实行，前向隐私门仍通过

    揭示拆分训练返回梯度以零支撑暴露诱饵行并泄露训练内容

    模型与 API攻击者白盒测试Qwen3-0.6B、35B-A3B训练与数据层
    摘要论文揭示拆分训练中反向梯度零支撑完全暴露诱饵行，联合视图突破门控，裁剪加噪可有效缓解。

    这是一项关于双节点大语言模型拆分训练系统的系统安全案例研究，揭示了评估工具遗漏反向信道所导致的静默隐私失效。

    完整解读
  9. 攻击arXiv:2609.33985 ·

    研究：众包微调数据投毒可放大专有指令抽取

    提出主题锚点投毒，放大众包微调后的专有指令提取

    模型与 API攻击者黑盒测试Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个训练与数据层

    摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。

    完整解读
已经到底了