跳到正文
10月8日 · 周四

隐私与数据泄露 · 论文

找到 29 篇
筛选

攻击类型

提示注入5投毒与后门6提取与窃取11恶意使用1

攻击技术

自动化搜索3编码与混淆3对话结构操控1推理链操控1跨模态载荷1侧信道2针对防御1潜伏触发6诱导选用1

防御类型

指令与数据隔离1权限与审批1

影响

越权操作2数据与隐私泄露15输出被操纵1

系统形态

模型与 API6LLM 应用2AI Agent10编程 Agent3网页与电脑操作1

攻击者权限

黑盒5灰盒1白盒2

攻击面/入口

用户输入8网页与界面1文档与消息2工具返回1工具与技能描述1代码仓库与依赖1检索语料1记忆写入5图像与音视频2训练数据2权重与梯度2推理服务与硬件2

层

提示层1模型层1应用层11训练与数据层3基础设施层2

系统组件

MCP 与技能2记忆5RAG1护栏与评审1推理链1权限与沙箱1微调与开源权重2视觉2嵌入1多模态2

被测模型厂商

OpenAI14Google11Qwen（阿里）11DeepSeek8Anthropic8Meta6其他14
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 113 篇还没打标签，不在筛选结果里。
话题：隐私与数据泄露清除全部

另有 77 篇还没有研究类型，暂不在这些分类里。

  2. 攻击arXiv:2604.02623 ·

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    网页与电脑操作测试GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个应用层
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    完整解读
  8. 攻击arXiv:2610.01365 ·

    ReGap：无需真实隐私数据即可通过微调重新提取模型隐私关联

    提出 ReGap，用自生成伪监督微调恢复模型中的隐私关联

    模型与 API攻击者白盒灰盒测试GPT-2 Small、GPT-2 Medium、GPT-2 Large 等 6 个训练与数据层

    摘要提出无真实私有监督的恢复攻击 ReGap，实验显示微调可通过自生成数据唤醒模型潜在隐私关联，突显后适应隐私风险。

    完整解读
  10. 攻击arXiv:2609.04382 ·

    研究揭示 split-LLM 训练中返回梯度泄露真实行，前向隐私门仍通过

    揭示拆分训练返回梯度以零支撑暴露诱饵行并泄露训练内容

    模型与 API攻击者白盒测试Qwen3-0.6B、35B-A3B训练与数据层
    摘要论文揭示拆分训练中反向梯度零支撑完全暴露诱饵行，联合视图突破门控，裁剪加噪可有效缓解。

    这是一项关于双节点大语言模型拆分训练系统的系统安全案例研究，揭示了评估工具遗漏反向信道所导致的静默隐私失效。

    完整解读
  12. 攻击arXiv:2607.05189 ·

    研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

    AI Agent测试GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个应用层
    摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    完整解读
  13. 攻击arXiv:2610.01768 ·

    LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄

    提出 LLMLeak，把机密编进报错 URL，借聊天机器人网页抓取外传

    AI Agent测试Meta-Llama-3.3-70B-Instruct、Meta-Llama-4-Scout-17B-16E-Instruct、Meta-Llama-3.1-8B-Instruct 等 15 个应用层
    摘要LLMLeak 用报错 URL 借聊天机器人抓取外传秘密。

    LLMLeak 研究一种隐蔽外传：本地恶意软件已拿到机密，却因为网络限制或监控不能直接连接攻击者，于是把秘密放进看起来像排障文档的 URL，让良性聊天机器人的网页抓取工具在访问时把秘密带出去。

    完整解读
  18. 攻击arXiv:2609.00873 ·

    研究提出 Q-Skew：利用 token 级记忆不对称对微调扩散语言模型做成员推断

    AI 导读研究者在微调扩散语言模型（DLM）上提出成员推断方法 Q-Skew，一种基于分位数加权偏度的指标，其依据是通过理论分析发现的 token 级记忆不对称现象。

    测试LLaDA-8B-Base、LLaDA-8B-Instruct、Dream-Base-7B 等 4 个
    摘要Q-SKEW 用 token 损失差的右偏区分微调 DLM 成员，并可辅助 PII 排序。

    Q-SKEW 是针对微调扩散语言模型的 gray-box 成员推断指标，依据是 token 记忆增益随掩码率下降而增大、成员序列因此右偏。。

    完整解读
  19. 攻击arXiv:2609.01723 ·

    研究者提出针对微调 TTS 模型的黑盒成员推断攻击

    AI 导读研究者提出首个同时面向说话人级和录音级的黑盒成员推断攻击框架，用于检测语音数据是否被用于微调 TTS 模型。

    测试CosyVoice2、F5-TTS、XTTS-v2
    摘要黑盒 TTS 成员推断以 recitation 加分层语音表示为分数，说话人级强于记录级，DP-SGD 可压到随机附近。

    作者给出一个针对微调文本转语音模型的黑盒成员推断框架，分别审计说话人是否进入微调集，以及某一条文本–音频记录是否进入微调集。微调 TTS 以合成文本和参考语音双条件生成，既有生成模型 MIA 的单条件查询和图像/文本上的逐点比较不能直接套用。作者用 scorable extent 与 memorization elicitation 比较五种查询，认为只有 recitation（用目标转写和干净目标语音要求模型复现）同时满足两条，并把它作为主查询。

    完整解读
加载更多