事件历史事件
LLM-Attacker：分离式LLM隐私评估红队框架
先了解这件事
AI 综述
研究者提出 LLM-Attacker 框架，用于记录、比较和扩展分离式与分布式大语言模型的隐私攻击评测。分离式模型把输入文本留在客户端，却把中间表示发送到服务器，攻击者可据此重建文本。该框架记录攻击者可见的消息、是否掌握模型权重以及所用数据集和恢复度量，兼容攻击可复用已记录消息，预测结果保存供独立评分；评分要求先有配套的无防御参考基线，防御才能判定通过，报告还会列出尚未测试的攻击。
AI 根据报道生成 · 25 天前更新
走势与进展
每小时关注度
现在 34，24 小时 0%·峰值 34（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 34
相关研究
这件事的论文
- LLM-Attacker：面向分离式与分布式LLM系统隐私评估的统一红队框架
arXiv · 2026-10-15 · 深度解读
后续时间线
10月26日
- 小红书小红书 上海交通大学 王烁老师· 讨论LLM-Attacker：模型拆开后隐私安全吗？（新标签页打开原帖）
10月16日
- arXiv：越狱、提示注入、投毒与防御LLM-Attacker：面向分离式与分布式LLM系统隐私评估的统一红队框架
研究者提出 LLM-Attacker 框架，用于记录、比较和扩展分离式与分布式大语言模型的隐私攻击评测。分离式模型把输入文本留在客户端，却把中间表示发送到服务器，攻击者可据此重建文本。该框架记录攻击者能看到哪些消息、是否知道模型权重以及所用数据集和恢复度量，兼容的攻击可复用已记录的消息，预测结果保存下来供独立评分；评分规则要求先有配套的无防御参考基线，防御才能判定通过，报告还会列出尚未测试的攻击。在受控 GPT-2 实验中，加入训练时返回的梯度使 token 恢复率从 94.20% 升至 97.38%，完整文档恢复率从 13.71% 升至 37.77%，token 增益的 95% 区间高于测试前设定的 2 个百分点阈值。作者认为每项隐私主张都应写明攻击者、数据集和评分规则，报告控制项并标出未测试的攻击。
相关讨论
共1条
- 72 小时以前 · 不计入 72 小时的数字
- 小红书小红书 上海交通大学 王烁老师LLM-Attacker：模型拆开后隐私安全吗？（新标签页打开原帖）