全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 会议论文USENIX Security 2026
安全隐私控制对生成式AI聊天机器人情感参与的影响
研究354名用户后发现，删除披露内容最能提升情感使用意愿，但用户仍不完全信任安全隐私控制。
- 会议论文USENIX Security 2026
用 LLM 进行大规模在线去匿名化
证明 LLM Agent 能仅凭化名资料与对话重识别用户，在 90% 精确率下召回率达 55%，远超传统方法，在线隐私威胁模型需更新。
- 会议论文USENIX Security 2026
CompLeak:深度学习模型压缩加剧隐私泄露
以成员推断攻击评估剪枝、量化、权重聚类三类压缩,结合多个压缩版本可显著提升攻击效果,证明压缩加剧隐私泄露。
- 会议论文USENIX Security 2026
从长度到内容：针对 LLM API 合并输出的 token 长度侧信道攻击
PromptEcho 被动监听加密流量中合并 token 的长度，在 GPT-4o 与 DeepSeek-V3 上推断 42.5% 会话主题并重建 25.5% 的响应。
- 会议论文USENIX Security 2026
用户隐私诉求与LLM服务商政策的差距
审计五家LLM服务商的用户隐私关切与政策后，发现政策覆盖不足与用户不信任几乎同样普遍。
- 会议论文USENIX Security 2026
SMASH：面向隐私保护 LLM 推理的可扩展恶意安全混合 MPC 框架
提出 SMASH 框架，用 DFT 旋转与轻量 ZKPoK 实现恶意安全 MPC，通信量最高降低 103 倍，运行时最高加速 18.9 倍。
- 会议论文USENIX Security 2026
NOIR：基于开源 LLM 的隐私保护代码生成
客户端编码/解码并在 token embedding 层施加本地差分隐私，使云端无法还原提示与代码，BigCodeBench 上 Pass@1 仅降 1.77%。
- 会议论文USENIX Security 2026
五次查询即可：RAG成员推断攻击
提出无需代理模型的高效成员推断攻击，仅用五次查询便能有效暴露RAG检索语料中的隐私泄露。
- 会议论文USENIX Security 2026
MEPS:具备隐私可保护性的边云视频基础模型隐私保护推理
仅对任务必需的敏感帧加密、其余帧轻量扰动,在保证隐私与精度的同时取得48.8倍加速。
- 会议论文USENIX Security 2026
针对大语言模型分词器的成员推断攻击
首次系统研究从分词器推断训练数据成员关系，并提出相应防御方法，揭示其隐私泄露风险。
- 会议论文USENIX Security 2026
VidLeaks：文本生成视频模型的成员推断攻击
提出结合空间重建与时间稳定性的攻击框架，证明文本生成视频模型会泄露显著的训练数据成员信息。
- 会议论文USENIX Security 2026
MASLeak:探究并暴露多 Agent 系统的知识产权泄露漏洞
首个黑盒提取多 Agent 系统知识产权的框架,对系统提示和任务指令成功率约87%、架构约92%,并在 Coze、CrewAI 上验证。
- 会议论文USENIX Security 2026
图生成扩散模型的推断攻击
针对图生成扩散模型提出图重建、属性推断和成员推断攻击，并设计两种缓解机制。
- 会议论文USENIX Security 2026
CTA:面向图数据的先裁剪后聚合差分隐私学习算法
在前向与反向传播中分别裁剪后再聚合,推导更紧的梯度敏感度,在真实图数据集上优于现有私有图学习方法。
- 会议论文USENIX Security 2026
连点成线:知识图谱引导的 RAG 系统爬取攻击
提出 RAGCrawler,以知识图谱引导多轮查询窃取 RAG 知识库,1000次查询平均覆盖66.8%,较最强基线提升44.9%,且难被现有防御阻挡。
- 会议论文USENIX Security 2026
破解联邦隐私:对初始化鲁棒的细粒度梯度反演
识别梯度稀疏性变化是现有梯度反演攻击的敏感来源,提出由粗到细的攻击,在敏感初始化下 PSNR 由25.4提升至47.7 dB。
- 会议论文ACL 2025
从统计与多视角重新审视大语言模型成员推断攻击
通过数千次多设置实验重评成员推断，发现多数方法统计上未优于基线，效果受模型规模和领域影响，且阈值选择是被忽视的难题。
- 会议论文ACL 2025
估计语言模型中补充上下文知识的隐私泄露
提出基于差分隐私的上下文影响指标，区分参数知识与上下文带来的泄露，发现偏离参数知识分布的上下文会产生隐私泄露。
- 会议论文ACL 2025
Opt-Out：基于最优传输的大语言模型实体级遗忘
提出实体级遗忘方法 Opt-Out 与评测集 ELUDe，利用参数间 Wasserstein 距离删除目标实体知识，实验表现优于已有方法。
- 会议论文ACL 2025
通过模态感知神经元剪枝实现多模态大模型遗忘
针对多模态模型记忆并泄露敏感信息的问题，提出按模态识别并剪除相关神经元的方法，在较少影响模型效用的同时实现更均衡的跨模态遗忘。
- 会议论文ACL 2025
利用低排名词元揭示大语言模型的隐私泄漏
提出利用模型低排名输出词元提取敏感信息的攻击，在智能体应用隐私提取和直接训练数据提取场景中均验证了有效性。
- 会议论文ACL 2025
PIG：基于梯度迭代上下文优化的隐私越狱攻击
提出通过梯度迭代优化上下文来提取个人身份信息的 PIG，在四个白盒和两个黑盒模型上优于基线，揭示安全对齐后的隐私泄露风险。
- 会议论文ACL 2025
PrivaCI-Bench：情境完整性与法律合规隐私评测
构建涵盖法规、判例、隐私政策和合成数据的情境隐私基准，发现模型虽能识别关键情境参数，隐私合规能力仍有不足。
- 会议论文ACL 2025
LoRD：以局部性强化蒸馏引导语言模型提取
提出面向大模型的提取算法LoRD，利用受害模型回答引导本地模型偏好学习，在多种商业模型上验证提取效果，并分析查询成本与水印防护削弱。