全部动态

无物可窃：通过系统向量缓解 LLM 的提示词泄露

THOR：基于同态加密的安全 Transformer 推理

PLRV-O：通过隐私损失随机变量优化推进差分隐私深度学习

ZORRO：面向拆分学习的零知识鲁棒性与隐私

保护图神经网络免受拓扑推断攻击

MoEcho：利用侧信道攻击破坏 Mixture-of-Experts 大模型的用户隐私

Armadillo：带输入验证的鲁棒单服务器联邦学习安全聚合

PreferCare：通过水印注入与验证保护 LLM 对齐中的偏好数据集版权

SCOPE：扩展客户端后处理以实现高效的隐私保护模型推理

CryptGNN：实现图神经网络的安全推理

基于虚构面部身份数据集的视觉语言模型遗忘学习基准

构建VLM遗忘学习基准FIUBench，通过成员推断和对抗性隐私攻击评估遗忘算法，发现现有方法在效用与遗忘质量间存在显著权衡。

面向大语言模型的高效鲁棒知识遗忘方法

提出LoKU框架，结合反向合页损失与自适应Fisher加权低秩初始化，在保留模型推理与生成能力的同时有效清除了敏感私密知识。

通过模拟Oracle匹配的机器遗忘

将机器遗忘归约为数据归因问题，提出元算法DMM，通过微调预训练模型以匹配预测输出，在非凸设置下实现了优秀的遗忘性能。

大语言模型非对抗性复现训练数据的度量研究

研究了良性提示下LLM对预训练数据的非对抗性复现现象，发现高达15%的生成文本与网络数据重合，指出防御该泄露需要更强的防护手段。

遗忘并毁灭：对抗性机器遗忘请求破坏模型准确率

揭示了机器遗忘系统默认待删除数据均在训练集中的假设漏洞，攻击者通过提交集外对抗性遗忘请求可摧毁模型性能，并证明现有请求验证机制难以防御。

大语言模型的隐私审计

提出更有效的金丝雀设计方法以执行成员推断攻击，在无需阴影模型或中间状态访问的逼真威胁模型下显著提升了对LLM训练隐私泄漏与记忆率的审计效果。

仅基于遗忘数据损失调整的大语言模型遗忘学习

提出无需保留数据或参考模型的FLAT方法，仅在遗忘数据上最大化模板回答与遗忘回答的f散度，在保持模型原有通用能力的同时有效完成版权与实体遗忘。

GRAIN：基于梯度的图数据精确重构攻击

提出首个针对联邦图神经网络的精确梯度反演攻击GRAIN，可同时恢复图结构和节点特征，实现高达80%的精确重构率。

大语言模型作为高级文本匿名化工具

针对大模型推断个人隐私的对抗性威胁，提出利用大模型自身推断能力的对抗性匿名化框架，在有效防范隐私推断的同时保证了文本可用性。

基于ε约束优化的图像到图像生成模型可控遗忘学习

针对图像生成模型遗忘隐私数据与保持模型效用的权衡问题，将其建模为ε约束优化问题，通过梯度方法确定帕累托最优边界并实现可控遗忘学习。

Infilling Score：大语言模型预训练数据检测算法

针对大模型预训练数据检测，提出基于非因果Token似然的Infilling Score算法，无需重训即可计算，在WikiMIA等成员推断基准上性能显著优于现有方法。

无需Hessian矩阵的在线可证明遗忘学习

针对二阶遗忘算法计算昂贵的问题，提出一种无需Hessian矩阵的在线可证明遗忘学习方法，仅通过向量加法即可实现毫秒级数据删除。

使用合成数据训练真的能保护隐私吗？

探讨了四种使用合成数据训练的范式，揭示经验性隐私保护方法在缺乏形式化差分隐私保证时难以可靠保护原始数据，容易带来虚假安全感。

最后一轮迭代的优势：差分隐私SGD的经验审计与启发式分析

针对仅公开最终迭代的DP-SGD场景提出隐私分析启发式方法，能有效预测模型隐私审计结果并在训练前预估最终的数据隐私泄露风险。