跳到正文
10月9日 · 周五

隐私与数据泄露 · 论文

找到 25 篇
筛选5

攻击类型

提示注入4投毒与后门5提取与窃取11检测规避1

攻击技术

自动化搜索1编码与混淆1针对防御4潜伏触发3

模型自身风险

Agent 危险操作1

防御类型

模型加固4检测与过滤1

影响

越权操作1数据与隐私泄露16输出被操纵3监督失效1

系统形态

模型与 API20LLM 应用12AI Agent25编程 Agent1网页与电脑操作4多智能体3

攻击者权限

黑盒2灰盒1白盒3

攻击面/入口

用户输入7网页与界面3文档与消息1工具返回1工具与技能描述1记忆写入1图像与音视频2训练数据7权重与梯度7

层

提示层5模型层26应用层8训练与数据层17基础设施层4

系统组件

MCP 与技能1记忆2微调与开源权重4视觉3音频1多模态4

被测模型厂商

OpenAI11Qwen（阿里）10Meta9Google8其他20
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 58 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent系统形态：网页与电脑操作层：应用层层：训练与数据层话题：隐私与数据泄露清除全部

另有 58 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.04741

    LoginTrap：针对 LLM Web Agent 的任务无关钓鱼式间接提示注入攻击

    提出 LoginTrap，用网页弹窗实施任务无关钓鱼式间接提示注入并窃取敏感信息

    arXiv
    2608.04741
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    GPT-4o、Gemini 3 Flash、Claude Sonnet 4 等 7 个

    摘要揭示网络智能体在黑盒网页下的登录诱导风险，利用模糊测试生成话术并跨骨干和架构验证了隐私泄露威胁。

    深度解读完整解读
  3. 攻击arXiv 2604.02623

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    arXiv
    2604.02623
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    深度解读完整解读
  5. 攻击arXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，利用 MCP 隐式信任诱导外发敏感文件

    arXiv
    2609.18217
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GPT-4o、GPT-4o-mini、GPT-5.4 等 15 个

    摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    深度解读完整解读
  6. 攻击arXiv 2610.01365

    ReGap：无需真实隐私数据即可通过微调重新提取模型隐私关联

    提出 ReGap，用自生成伪监督微调恢复模型中的隐私关联

    arXiv
    2610.01365
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒、灰盒
    测试
    GPT-2 Small、GPT-2 Medium、GPT-2 Large 等 6 个

    摘要提出无真实私有监督的恢复攻击 ReGap，实验显示微调可通过自生成数据唤醒模型潜在隐私关联，突显后适应隐私风险。

    深度解读完整解读
  7. 攻击arXiv 2607.21839

    论文指出密码学模型认证的假设缺口：审计通过但部署失效

    提出数据伪造攻击，使密码学模型认证在审计集通过但部署失效

    arXiv
    2607.21839
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    SciKit-Learn decision tree、XGBoost、226M-parameter neural network 等 4 个
    摘要固定审计集上的 ZKP 认证可被数据伪造绕过。

    这篇工作同时给出对 CMC 的数据伪造攻击，以及先承诺、后抽样的认证模板。。

    深度解读完整解读
  8. 其他arXiv 2609.14843

    研究分析 3930 条 Reddit 帖子，揭示青少年对陪伴型 AI 聊天机器人的过度依赖

    主题分析青少年相关 Reddit 帖子，归纳陪伴 AI 过度依赖与感知互惠

    arXiv
    2609.14843
    发表
    层
    应用层
    场景
    模型与 API
    测试
    Character.AI、Replika、ChatGPT 等 4 个
    摘要陪伴关系由即时回应、共同过去和可识别他人叠加而成，安全要管记忆、边界和退出。

    Namvarpour、Chang 与 Razi 用计算辅助主题分析，描述青少年相关 Reddit 讨论中与 AI 陪伴聊天机器人的关系及潜在过度依赖。

    深度解读完整解读
  9. 攻击arXiv 2609.04382

    研究揭示 split-LLM 训练中返回梯度泄露真实行，前向隐私门仍通过

    揭示拆分训练返回梯度以零支撑暴露诱饵行并泄露训练内容

    arXiv
    2609.04382
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    测试
    Qwen3-0.6B、35B-A3B
    摘要论文揭示拆分训练中反向梯度零支撑完全暴露诱饵行，联合视图突破门控，裁剪加噪可有效缓解。

    这是一项关于双节点大语言模型拆分训练系统的系统安全案例研究，揭示了评估工具遗漏反向信道所导致的静默隐私失效。

    深度解读完整解读
  10. 分析与理论arXiv 2609.33898

    研究揭示训练效率与模型脆弱性的权衡：高效训练更易受对抗与隐私攻击

    比较高效与高成本训练的对抗和隐私脆弱性并分析损失几何

    arXiv
    2609.33898
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    ResNet-18、Swin Transformer、Qwen2.5-Math-7B-Instruct 等 7 个
    摘要效用匹配下，三种高效训练都伴随更高的隐私与对抗脆弱性及更尖的损失几何。

    作者在视觉分类和数学推理语言模型上，检查用更少数据或更简对齐换取训练效率时，安全性质是否一起变化。比较在任务效用接近的前提下进行。视觉侧用 KNN-Shapley 的高重要性小子集对照低重要性大子集，并用预训练微调对照从头训练。

    深度解读完整解读
  12. 防御arXiv 2610.00209

    基于差分隐私扩散模型的能源时间序列插补：裁剪感知的目标条件化方法

    提出时间步感知目标条件化，改善差分隐私能源时序插补效用

    arXiv
    2610.00209
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    DiT-style Transformer、PatchTST、TimesNet 等 5 个
    摘要固定阈值 DP-SGD 下，v-prediction 加 ᾱt 加权降低能源时序插补误差，并降低后期低 SNR 的裁剪前梯度。

    作者研究固定阈值 DP-SGD 训练的扩散模型，如何在余弦调度的后期低 SNR 时间步避免 ε-prediction 产生易被裁剪的大梯度，从而做能源时序缺失值恢复。

    深度解读完整解读
  14. 其他arXiv 2609.38895

    Unmerge：用任务算术实现高效机器遗忘

    提出 UNMERGE，用任务向量低秩分解做概念级遗忘

    arXiv
    2609.38895
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    ResNet-50、ViT-S/16、Llama-3.2-3B-Instruct
    摘要UNMERGE 用低秩任务向量相减做概念级遗忘，类别任务上 ToW 与隐私更接近重训。

    UNMERGE 把近似机器遗忘写成模型合并的逆运算：从已微调的合并任务向量里减去一个学出来的低秩遗忘分量。作者要处理的是概念级请求（一个类或一个语义组），而不是任意单条记录。梯度上升、重标注、蒸馏和显著性方法都靠把遗忘损失写进权重，作者认为它们超参脆弱、无法表达遗忘与保留的共享方向，也缺少逐层诊断。

    深度解读完整解读
  16. 防御arXiv 2609.07063

    VERITAS：抗投毒的本地差分隐私图学习协议

    提出 VERITAS，用双边背书剪除本地隐私图学习中的投毒节点

    arXiv
    2609.07063
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GCN、GraphSAGE、GAT
    摘要VERITAS 用分级信任的双边背书剪除 LDP 图学习中的投毒节点，并恢复分类准确率。

    VERITAS 是面向本地差分隐私图学习的投毒防御协议，按 trust-but-verify 在保持 ϵ-LDP 的同时剪除伪造节点。

    深度解读完整解读
  19. 防御arXiv 2609.15671

    QPriv-VL：面向视觉语言模型的问题引导 token 裁剪隐私防御

    提出 QPriv-VL，用问题引导剪枝降低分布式视觉问答的隐私泄露

    arXiv
    2609.15671
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    LLaVA-1.5-7B、CLIP-ViT-L/14、Llama-2 等 4 个
    摘要QPriv-VL 在切层前按问题相关度与 DINOv2 敏感度剪视觉 token，作者称能在约四成 token 下兼顾准确率与四类攻击。

    QPriv-VL 把问题引导的视觉 token 剪枝做成分布式 VQA 的客户端隐私防御，而不是只做集中式推理加速。

    深度解读完整解读
加载更多