全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 15 条- 会议论文USENIX Security 2025
Pretender：针对扩散模型微调攻击的通用主动防御
将主动防御建模为双层优化，向图像加入微小保护噪声，使各类微调攻击合成的图像质量与语义被破坏。
- 会议论文USENIX Security 2025
是大帮手还是老大哥？审计生成式 AI 助手的追踪、画像与个性化
审计九个 GenAI 浏览器助手，发现它们常把完整网页内容和表单输入发给服务器，部分还与第三方追踪器共享，并推断用户属性用于个性化。
- 会议论文USENIX Security 2025
迈向全生命周期遗忘承诺管理：度量样本级 unlearning 完整性
提出 IAM 框架，用单个 shadow 模型度量样本级遗忘完整性，可扩展到 LLM，并发现近似 unlearning 算法普遍存在过度或不足遗忘风险。
- 会议论文USENIX Security 2025
Game of Arrows：端侧 TEE 保护 LLM 分区方案中权重混淆的（不）安全性
提出 ArrowMatch 利用方向相似性恢复被混淆的私有权重，准确率超 98%，并提出 ArrowCloak 作为防御。
- 会议论文USENIX Security 2025
面向云端模型训练的任务导向训练数据隐私保护
为上传数据加入对抗优化噪声，实现任务级使用控制：阻止未授权训练，目标任务精度仅下降约 1.8%。
- 会议论文USENIX Security 2025
锐度感知初始化：从基本原理改进差分隐私机器学习
提出 SAI 两阶段训练，通过更平坦的损失面缓解 DP 噪声影响，在 CIFAR-10（ε=1）上提升超过 6% 准确率。
- 会议论文USENIX Security 2025
SoK：针对机器学习模型的数据重建攻击——定义、度量与基准
为视觉领域的数据重建攻击提出统一分类与形式化定义、量化度量及用 LLM 辅助的视觉评估，并建立评测基准。
- 会议论文USENIX Security 2025
NeuroScope：基于动态分析逆向边缘设备上的深度神经网络
用动态分析和机器学习逆向 DNN 二进制，支持多种编译器与平台，可恢复专有模型并支撑灰盒对抗攻击。
- 会议论文USENIX Security 2025
从风险到韧性：评估并缓解联邦学习中的数据重建攻击风险
提出 InvLoss 量化数据重建攻击风险上界，开发风险估计器 InvRE 与两种自适应噪声防御。
- 会议论文USENIX Security 2025
PRSA：针对真实提示服务的提示窃取攻击
提出 PRSA 攻击框架，仅凭少量输入输出推断提示意图并复现功能，在提示市场攻击成功率由 17.8% 升至 46.1%，并给出两种防御思路。
- 会议论文USENIX Security 2025
无数据的模型相关攻击：释放生成式 AI 的潜力
利用生成式 AI 在无数据、黑盒条件下发动模型提取、成员推断与模型反演攻击，效果可比拥有训练数据和参数的白盒基线。
- 会议论文USENIX Security 2025
跨模态提示反演：统一针对文本与图像生成模型的威胁
提出统一的提示反演方法，先训练反演模型再用强化学习微调，可从输出重建文本和图像模型的提示，并扩展到视频，优于各自的最优方法。
- 会议论文USENIX Security 2025
恶意 LLM 对话 AI 诱使用户泄露个人信息
对502名参与者的对照试验表明,恶意设计的对话 AI 比良性 AI 套取更多个人信息,其中利用隐私社会属性的策略最有效且风险感知最低。
- 会议论文USENIX Security 2025
SOFT：选择性数据混淆保护 LLM 微调免受成员推断攻击
先系统评估微调 LLM 对 MIA 的脆弱性，发现攻击利用微调中的损失下降，再提出 SOFT 选择性混淆数据，在六个领域平衡隐私与性能。
- 会议论文USENIX Security 2025
SafeSpeech：针对恶意语音合成的鲁棒通用语音保护
提出 SPEC 技术，在上传前给语音嵌入不可察觉扰动以阻止声音克隆，对多种合成模型有效且能抵御自适应对手，可实时运行。