全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 会议论文ICML 2025
多模态模型的梯度反演
提出 GI-DQA，从联邦学习共享梯度中重建文档视觉问答模型的私有文档内容，暴露多模态联邦学习的隐私漏洞。
- 会议论文ICML 2025
SecEmb：面向大规模 embedding 的稀疏感知安全联邦推荐系统
提出 SecEmb 协议，让服务器除聚合模型外无法获知用户评分的物品索引和个体更新，同时将通信开销最多降低 90 倍。
- 会议论文ICML 2025
文本遗忘带来虚假的遗忘感
提出 U-LiRA+ 审计方法和 TULA 攻击，发现遗忘后的文本仍可被高置信度检出，且遗忘机制反而增加成员推断与数据重构风险。
- 会议论文ICML 2025
经验隐私方差
发现同一 (ε,δ)-DP 保证下，DP-SGD 不同超参数配置的语言模型在记忆化衡量的经验隐私上差异显著，并提出考虑经验隐私的超参选择启发式。
- 会议论文ICML 2025
基于加权多预训练模型融合的对比式隐私数据合成
提出 WASP,在差分隐私保证下利用少量私有样本和多个预训练模型的加权协作合成数据,在 6 个数据集上提升下游任务表现。
- 会议论文ICML 2025
Stealix：基于提示进化的模型窃取
无需人工设计提示或类名，用遗传算法迭代优化提示合成图像来窃取黑盒模型，在相同查询预算下优于其他方法。
- 会议论文ICML 2025
DIS-CO：发现 VLM 训练数据中的受版权内容
通过用电影帧查询 VLM 并分析文本补全来推断训练数据是否含版权内容，并发布 MovieTection 基准；所有受测模型似乎都接触过此类内容。
- 会议论文ICML 2025
STAMP：通过带水印的改写证明数据集成员身份
生成带唯一密钥水印的多个改写版本，公开其一、保留其余，用配对统计检验比较模型似然来检测数据是否被用于预训练；在仅出现一次、占比低于 0.001% 的基准上也能检出。
- 会议论文ICML 2025
用于提升差分隐私上下文学习准确率的合理词元放大
将 ICL 解释为隐式贝叶斯推断，提出 PTA 修改下一词元分布以生成 DP 合成示例，提升 DP-ICL 在文本分类上的准确率。
- 会议论文ICML 2025
基于能量引导数据合成与判别感知多任务优化的高效无源数据遗忘
提出 DSDA 框架，用加速能量引导数据合成和判别感知多任务优化，在无法访问原训练数据时高效完成 machine unlearning，三个基准上优于现有方法。
- 会议论文ICML 2025
当心你的相册：多模态大模型的无意隐私记忆
在 VQA 微调图像中嵌入与任务无关的水印并设计探测框架，发现 MLLM 会无意编码此类私有内容，即使不影响输出。
- 会议论文ICML 2025
基于梯度训练的差分隐私预测认证
利用凸松弛与 bound propagation 计算数据集相关的预测敏感度上界，结合 smooth sensitivity 机制，使私有预测的隐私分析比全局敏感度方法紧致数个数量级。
- 会议论文ICML 2025
MTL-UE：为多任务学习生成不可学习样本
首个面向多任务数据与 MTL 模型的不可学习样本框架，用生成器加入标签先验与类内嵌入正则，防止未授权训练，在 4 个数据集上攻击效果稳定。
- 会议论文ICML 2025
DRAG：基于引导扩散的数据重建攻击
针对拆分推理中的基础模型，利用预训练潜扩散模型的先验，从深层中间表示重建高保真原始图像，效果优于现有方法。
- 会议论文NDSS 2025
基于密钥驱动的身份保持人脸匿名化框架
提出密钥驱动的人脸匿名化与认证框架，在隐藏原始人脸的同时保留身份认证能力。
- 会议论文NDSS 2025
促进深度学习模型成员推断攻击的方法
提出可通过恶意训练代码放大黑盒模型成员隐私泄露并规避常见隐私审计的攻击。
- 会议论文NDSS 2025
面向量化模型的新型隐私保护机器学习范式
用查找表实现量化算子的私有推理协议，在线通信量仅 log n，在线性能比现有 PPML 方案提升 CNN 40~60 倍、LLM 10~25 倍。
- 会议论文NDSS 2025
ASGARD：基于虚拟化 TEE 保护端侧深度神经网络
在 Armv8-A 设备上用虚拟化 TEE 保护端侧 DNN 模型，将加速器纳入可信边界，TCB 极小且推理延迟开销可忽略。
- 会议论文NDSS 2025
针对微调扩散模型的黑盒成员推断攻击
提出首个面向扩散模型的基于分数的黑盒成员推断攻击框架，覆盖四种攻击场景，AUC 可达 0.95。
- 会议论文NDSS 2025
BumbleBee：大型 Transformer 的安全两方推理框架
优化矩阵乘法与非线性激活的两方私有推理协议，通信量降低 80%~95%，可用 CPU 约 8 分钟生成 LLaMA-7B 一个 token。
- 会议论文NDSS 2025
CENSOR：基于正交子空间贝叶斯采样防御梯度反演
在联邦学习中将梯度扰动限制在与原梯度正交的子空间，防御梯度反演攻击恢复私有数据，同时保持模型效用。
- 会议论文NDSS 2025
防御针对迭代剪枝深度神经网络的成员推断攻击
发现迭代剪枝会加剧模型记忆，提出 WeMem 针对数据复用与固有可记忆性削弱记忆，在十种自适应 MIA 下优于五种现有防御。
- 会议论文NDSS 2025
Diffence：用扩散模型保护成员隐私
推理前用生成模型重新生成输入以消除成员与非成员差异，不改变预测标签，平均降低 MIA 攻击准确率 15.8%，可与其他防御叠加。
- 会议论文NDSS 2025
DLBox：保护训练数据的新型模型训练框架
借助机密计算并强制执行 DGM-Rules，限制不可信开发者只能进行良性训练，阻止数据编码、梯度反演等泄露途径，开销很小。