研究者提出代理遗忘攻击：利用LLM知识叠加移除敏感实体

1. 00:11
   RedditReddit r/AIsafety· 讨论

   Machine unlearning is meant for privacy, could it also remove an AI's safety guardrails?（新标签页打开原帖）

1. 12:10
   arXiv：对抗攻击、后门与投毒

   LLM 遗忘中的敏感知识保护：代理威胁与叠加感知防御

   研究者提出代理遗忘攻击（Proxy Unlearning Attack，PUA）：利用 LLM 机器遗忘中的知识叠加现象，通过合法遗忘请求间接移除从未被请求的敏感实体。LLM 中不同实体的表征可能在共享参数子空间重叠，删除一个实体可能影响其他实体；攻击者据此选择与敏感目标叠加的可移除代理实体发起请求，良性用户也可能无意触发这类移除，作者称该威胁不同于数据投毒或后门攻击。作为响应，作者提出可应用于遗忘请求、以确保正确移除的通用防御框架 SAUP（Superposition-Aware Unlearning Protection），分两阶段工作：遗忘前通过叠加检测估计请求会危及哪些敏感实体，遗忘后解耦共享表征并恢复受影响实体，同时保持被请求实体处于抑制状态。作者称，LLM 提供方在处理遗忘请求时需要表征级的检测与恢复机制来缓解该威胁、保护敏感知识。

当前关注度30·可比范围峰值33（11月13日 17:00）·近 24 小时可比范围变化 -2%