全部动态

CryptPEFT:基于参数高效微调的高效隐私神经网络推理

提出单向通信架构,将加密计算限制在 adapter 内,在保护用户输入与微调 adapter 隐私的同时,较基线加速 20.62 至 291.48 倍。

DNN Latency Sequencing:用单步攻击从 Intel SGX enclave 中提取 DNN 架构

利用 SGX-Step 采集细粒度延迟轨迹,在 Darknet、TensorFlow Lite、ONNX Runtime 上恢复模型架构,准确率达 93.6% 至 97.3%。

增强对抗流量漂移的网站指纹攻击

提出自适应 WF 攻击框架 Proteus,仅用无标签漂移流量持续微调模型,在六种漂移场景下相对八种 SOTA 攻击 F1 平均提升 94.24%。

ExpShield:保护网页文本免遭未授权爬取与 LLM 利用

通过不可见扰动抑制 LLM 对网页文本的记忆,在隐私后门下将 MIA AUC 从 0.95 降至 0.55,实例暴露风险趋近于零。

微调语言模型成员推断的 In-Context Probing

提出 ICP-MIA,以 Optimization Gap 为成员信号,通过构造输入上下文在黑盒下估计,在低 FPR 下显著优于既有黑盒 MIA。

针对神经网络的记忆型后门攻击

恶意联邦学习服务器通过训练时后门，用索引触发器确定性地提取客户端完整训练样本，医疗分割数据集仅损失 3% 效用。

窥探黑盒：基于 GPU 电磁侧信道的远距离模型架构窃取

ModelSpy 利用 GPU 电磁泄漏在数米外穿墙还原 DNN 架构，层分割准确率 97.6%，并可增强黑盒对抗攻击。

Prεεmpt：为 LLM 净化敏感提示词

提出提示词净化器，对格式型敏感词用保格式加密、对数值型用 metric 差分隐私，在保持效用下提供隐私保证。

PrivCode：当代码生成遇上差分隐私

首个面向代码数据集的 DP 合成器，先用 DP-SGD 生成隐私合成代码，再微调更大模型提升效用。

PrivORL：面向离线强化学习的差分隐私合成数据集

首个离线 RL 数据集的 DP 合成方法，用扩散模型合成 transition 与轨迹，效用和保真度优于基线。

揭示并缓解LLM推理中KV缓存的隐私风险

发现可从KV缓存重建用户输入，并提出KV-Cloak防御攻击且几乎不影响性能。

STIP：生产环境大模型的三方隐私保护无损推理

提出可部署于生产环境的三方隐私推理系统，保护用户数据和模型参数并保持无损推理。

SVDefense：基于奇异值分解防御梯度反演攻击

提出利用截断奇异值分解保护联邦学习梯度隐私的方法，在资源受限平台上兼顾隐私和模型精度。

是否打乱：审计带打乱的DP-SGD

提出DP审计方法，发现打乱训练可能使模型的实际隐私泄露高于理论保证。

我的数据被用于训练了吗？基于神经激活的开源LLM成员推断

通过分析LLM神经激活检测训练数据成员关系，在多个开源模型上取得较高识别效果。

WhiteCloak：追责安全聚合中的匿名恶意客户端

提出利用零知识证明阻止被拉黑客户端更换凭证重返联邦学习聚合轮次。

EnchTable：微调大语言模型中的统一安全对齐迁移

联合防御：联邦学习中的协作式成员推断防御

提出 CoFedMID 协作防御框架，通过样本划分、效用补偿与聚合中性扰动，显著降低七种成员推断攻击的效果且效用损失较小。

针对微调大语言模型的窗口式成员推断攻击

提出滑动窗口比较方法，利用局部记忆信号提升微调LLM成员推断在低误报率下的检测效果。

私有Transformer模型推理综述

系统分析隐私保护Transformer推理协议的性能权衡、局限与可复现性，并提出部署选择指南。

提示窃取谬误：重新思考指标、攻击与防御

论文发现现有提示窃取效果被高估，并提出PromptThief及主动和被动防御方法评估提示知识产权保护。

模仿式成员推断攻击

通过训练少量模仿目标模型的模型发起成员推断，在低于现有方法5%计算成本下取得更好效果。

DP-SAPF:面向差分隐私图像合成的显著性感知公共模型参数微调

用带噪梯度选出显著参数做 LoRA 微调,在四个敏感数据集上提升合成图像的效用与保真度并减少算力。

从易到难++:空间-频率课程促进差分隐私图像合成

提出 FETA-Pro,以频率特征作为训练捷径,在五个敏感图像数据集、ε=1下保真度平均提升25.7%。