全部动态
从来源，看到研究的联系
点击节点查看内容
本页材料
24 条- 会议论文ICML 2026
MultiPriv：视觉语言模型个人级隐私推理能力评测基准
提出MultiPriv基准以评估VLM推断和关联分散多模态信息构建个人画像的隐私推理能力，评测发现60%的主流模型准确率达80%，揭示了显著的隐私泄露风险。
- 会议论文ICML 2026
遗忘并非删除：探究大语言模型机器遗忘的可逆性
提出表征层面的分析框架，揭示大语言模型机器遗忘容易通过微调恢复、信息仅被压制而非真正擦除的现象，为可信机器遗忘提供了评估基础。
- 会议论文ICML 2026
重新审视全同态加密下的 ML 训练：收敛保证、差分隐私与高效算法
首次给出 FHE 下机器学习训练的收敛性分析，并结合无需逐样本梯度裁剪的差分隐私训练算法，在效率更高的同时保持相近效用。
- 会议论文ICML 2026
寻找 DoRI：发现扩散模型中残留的训练图像
证明对已缓解提示的文本嵌入做小扰动即可重新触发训练数据复现，说明记忆并非局部可定位、剪枝类缓解方法很脆弱，并展示对抗微调可更稳健地缓解。
- 会议论文ICML 2026
PrivAct：通过多智能体偏好训练内化情境隐私保护
把情境隐私偏好训练进各 Agent 的生成行为，在多种骨干模型和基准上泄露率最多降低 12.32%，同时保持有用性。
- 会议论文ICML 2026
以不确定性遗忘：面向量化神经网络的正交熵遗忘
提出 OEU：通过最大化遗忘数据上的预测不确定性并将遗忘梯度投影到保留梯度的正交补，实现量化模型的机器遗忘。
- 会议论文ICML 2026
FUSE：基于频谱均衡的全频段不可学习样本
发现现有不可学习样本经低通滤波后失效，提出随机频谱掩码与跨频段引导，使扰动在全频段保持不可学习性，保护训练数据。
- 会议论文ICML 2026
RECOVER:利用反演鲁棒性检测文生图扩散模型中的未授权数据使用
提出无需预微调模型、非侵入式的版权认证方法,利用微调过的图像更易被稳定反演重建的特性,判断图像是否被用于微调,效果优于现有方法。
- 会议论文ICML 2026
散度解码：利用辅助模型实现推理阶段的机器遗忘
提出散度解码机制，利用小型辅助模型在推理时引导模型logits远离特定敏感数据以实现低成本遗忘，并可将分布蒸馏回基座模型。
- 会议论文ICML 2026
从微弱线索到真实身份：评估LLM智能体的推断驱动去匿名化风险
发现LLM智能体能结合分散的非标识线索与公开证据重构真实身份，并在InferLink基准和脱敏交互痕迹中证实了去匿名化风险。
- 会议论文ICML 2026
大语言模型的多语言机器遗忘：迁移、动态与可逆性
将TOFU基准扩展到五种语言以研究多语言机器遗忘，发现遗忘主要发生在后期解码层且具表层性，单一推理干预方向即可逆向恢复多达50%至90%被遗忘的敏感知识。
- 会议论文ICML 2026
频域视角下针对扩散模型的成员推断攻击增强
揭示扩散模型处理高频信息的缺陷对成员推断的影响，提出即插即用的高频滤波模块FreMIA，显著提升成员推断攻击表现。
- 会议论文ICML 2026
超越SGD的梯度反演攻击
针对联邦学习中自适应优化器难以反演数据的问题，提出基于参数更新匹配的目标函数，可从Adam等优化器更新中有效重构私有训练数据。
- 会议论文ICML 2026
PRISM：规范不变切空间差分隐私LoRA
揭示了DP-LoRA中因低秩分解非唯一性导致的噪声无界放大问题，提出具备规范不变性的PRISM机制，实现了稳定的差分隐私微调与隐私效用权衡。
- 会议论文ICML 2026
Flow Matching的泄露机制：表征插值路径上的成员信号
揭示了Flow Matching模型训练插值路径上训练与测试数据重建差距呈钟形曲线的规律，并利用该结构实现了区分训练集样本的成员推断攻击。
- 会议论文ICML 2026
机器遗忘的盲区：过度遗忘与 Prototypical Relearning Attack
提出 OU@ε 度量过度遗忘，揭示仅用少量样本即可恢复被遗忘类别的重学习攻击，并提出 Spotter 目标同时缓解两者。
- 会议论文ICML 2026
大道至简：基于极少数据披露的大语言模型几何遗忘学习
提出几何遗忘学习方法GU，无需访问原始训练语料，通过将隐藏表示投影对齐到低秩安全子空间，在隐私基准上实现了强目标消除且有效保留了非目标性能。
- 会议论文ICML 2026
隐状态下差分隐私零阶优化的隐私放大
证明了零阶优化中收敛的差分隐私界，将迭代隐私放大框架拓展至光滑损失函数的零阶优化，并提出了性能更优的差分隐私零阶算法。
- 会议论文ICML 2026
OSNIP：利用混淆语义零空间平衡大模型推理隐私与效用
提出轻量级客户端加密框架OSNIP，通过将原始嵌入扰动投影到高维混淆语义零空间，在严格安全约束下大幅降低攻击成功率并保持模型高实用性。
- 会议论文ICML 2026
语言模型能记忆多少内容？
提出区分非预期记忆与泛化的新方法，测定GPT模型容量约为每参数3.6比特，并建立了模型容量、数据规模与成员推断之间的标度律。
- 会议论文ICML 2026
PEARL：差分隐私与熵感知的受控语言生成
针对RAG中敏感隐私泄露风险，提出基于置信度差距和熵感知的差分隐私解码框架PEARL，自适应分配隐私预算，在增强抗PII提取攻击鲁棒性的同时减少了幻觉。
- 会议论文ICML 2026
基于随机裁剪的高效大语言模型差分隐私随机梯度下降
提出结合随机迹估计的差分隐私训练方法DP-SGD-RC，大幅降低样本梯度范数估计的显存与计算开销，在大模型微调中实现与确定性裁剪相当的隐私与效用。
- 会议论文ICML 2026
能有多难？基于难度感知的多目标机器遗忘
针对数据隐私消除需求，提出基于约束优化的机器遗忘算法HAMU，利用遗忘与保留数据相似度量化难度以更新权重，在保证遗忘质量的同时最小化效用损失。
- 会议论文ICML 2026
LMCleaner：基于影响传播截断的高效且可认证在线遗忘学习
提出在线遗忘学习框架LMCleaner，通过影响传播截断机制与子空间感知噪声注入，实现了可认证差分隐私并抵御成员推断攻击，大幅降低计算开销。