跳到正文
原文

忘掉谱系:面向 LLM 智能体记忆的前向安全、谱系完备密码学擦除

Forget the Lineage: Forward-Secure, Lineage-Complete Cryptographic Erasure for LLM-Agent Memory

arXiv:其他 AI 安全论文· arXiv:2611.18133· Yulliwas Ameur, Billal Mokhtari, Samia BouzefraneEfrei Research Lab, Université Paris-Panthéon-Assas; Cédric laboratory, Conservatoire national des arts et métiers (Cnam)本站收录· 4 天前· 原文发表防御· 扫描记录里的位置 →

论文速读

防御

据论文 PDF 整理(AI 生成),以原文为准

作者提出 LinEra,让智能体记忆的密钥沿派生图派生;作者称在 LoCoMo 上逻辑删除泄露 35/35 个秘密,LinEra 泄露 0 个。

威胁模型攻击者始终能看到存储(密文、谱系图、备份、空闲页、日志),在遗忘请求之后攻陷系统并获得全部历史存储与当前秘密状态(诚实但好奇的云主机、被盗设备、被迫披露);目标是学不到被遗忘对象及其后代的任何内容。

问题
LLM 智能体的长期记忆大多由模型自己从用户输入派生(摘要、事实、向量),删除原消息并不能删除这些派生物、存储残留和备份,用户的遗忘请求因此得不到保证。
方法
LinEra 让每个记忆的密钥由其在派生图上的父节点密钥经 HKDF 派生,源密钥来自 GGM 可穿刺伪随机函数;遗忘即一次穿刺,全部后代无需定位即不可解密,并用“写入器所见即父节点”的健全谱系规则保证覆盖。
实验与结果
在 LoCoMo 上,攻击者持有全部文件和当前密钥时,逻辑删除泄露 35/35 个被遗忘秘密,逐对象/epoch 密钥泄露 22 个,LinEra 健全规则泄露 0 个;代价是遗忘半径,遗忘 1% 轮次会擦除 74.8% 的派生记忆,四轮窗口可降到 3.9% 且答题质量不降。
局限与可以继续做的
作者指出的局限:只用不超过 7B 的开源模型;谱系图的形状会泄露;谱系捕获假设钩子能看到完整提示词;被测的归因规则刻意简单。谱系图、对象大小和创建时间为明文,隐藏图形状留作未来工作。
实验设置Qwen2.5-1.5B-Instruct、Qwen2.5-7B-Instruct 等 · LoCoMo、LongMemEval-S 等 · 泄露的 canary 数(4 个通道)、遗忘半径(被擦除派生记忆占比) 等
威胁模型
攻击者始终能看到存储(密文、谱系图、备份、空闲页、日志),在遗忘请求之后攻陷系统并获得全部历史存储与当前秘密状态(诚实但好奇的云主机、被盗设备、被迫披露);目标是学不到被遗忘对象及其后代的任何内容。RAM 内容、侧信道与模型权重不在范围内。
被测模型
Qwen2.5-1.5B-InstructQwen2.5-7B-InstructLlama-3.2-3B-Instruct
基准
LoCoMoLongMemEval-Smem0 2.2.1
指标
泄露的 canary 数(4 个通道)遗忘半径(被擦除派生记忆占比)token F1top-10 检索命中率写/读/检索/遗忘耗时
AI 导读LinEra 是一种面向 LLM 智能体长期记忆的谱系完备前向安全密码学擦除方案,遗忘请求后即使攻击者取得全部存储和智能体当前密钥,也无法得知被遗忘输入及其衍生记忆。方案沿派生图用父密钥派生的密钥加密每条记忆,源密钥来自可穿孔伪随机函数,一次穿孔即可让所有后代记忆不可读而无需逐一定位;作者证明了安全性与谱系完整性,并将 LinEra 集成到 mem0。实验用两个模型族的真实 LLM(1.5B 至 7B 参数)为 LoCoMo 对话写记忆,持有全部文件和当前密钥的攻击者在最大模型写出的十段对话上,逻辑删除后恢复 71 个被遗忘秘密中的 70 个,逐对象或按 epoch 的密钥下为 67 个,LinEra 下为 0。代价是更大的遗忘半径,遗忘 1% 轮次在会话级摘要下擦除 73.0% 的衍生记忆,四轮窗口下仅 3.8%,四轮窗口的问答表现也更好,重新派生可恢复被擦除内容。

LinEra 是一种面向 LLM 智能体长期记忆的谱系完备前向安全密码学擦除方案,遗忘请求后即使攻击者取得全部存储和智能体当前密钥,也无法得知被遗忘输入及其衍生记忆。方案沿派生图用父密钥派生的密钥加密每条记忆,源密钥来自可穿孔伪随机函数,一次穿孔即可让所有后代记忆不可读而无需逐一定位;作者证明了安全性与谱系完整性,并将 LinEra 集成到 mem0。实验用两个模型族的真实 LLM(1.5B 至 7B 参数)为 LoCoMo 对话写记忆,持有全部文件和当前密钥的攻击者在最大模型写出的十段对话上,逻辑删除后恢复 71 个被遗忘秘密中的 70 个,逐对象或按 epoch 的密钥下为 67 个,LinEra 下为 0。代价是更大的遗忘半径,遗忘 1% 轮次在会话级摘要下擦除 73.0% 的衍生记忆,四轮窗口下仅 3.8%,四轮窗口的问答表现也更好,重新派生可恢复被擦除内容。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    删除用户消息删不掉模型派生的记忆,论文提出沿派生图派生密钥的 LinEra 实现谱系完整的前向安全擦除。

    核心问题:LLM 智能体的长期记忆大多由模型自己写下,删除用户原始消息后,其派生物(摘要、事实、画像、向量)、存储残留和备份仍然存活,如何在被遗忘后保证这些内容永久不可读。

    • 场景与动机:mem0 等记忆层把对话变成事实和摘要并连同嵌入一起存回,之后的检索又把它们带进新提示词,记忆由记忆写成。作者称这属于个人数据,用户可依据 GDPR 第 17 条要求擦除;论文实验中 1.5B 模型把 35 个植入秘密中的 14 个原样抄进派生记忆、22 个抄入主题。
    • 现有方法的不足(按论文说法):跨层逻辑删除(ForgetAgent)事后信任存储;重放执行(execution-state unlearning)代价高且留存储残留;逐对象密钥(Holepunch)或 epoch 密钥只擦除目标对象本身,擦不掉模型派生的记忆。
    • 核心观察:让派生记忆的密钥依赖其父记忆的密钥,则对源密钥做一次穿刺,整个后代闭包无需定位即不可解密;前提是用“写入器写它时看到的一切即父节点”的健全谱系规则记录派生关系(Lemma 1 给出依据)。
    • 论文的贡献:提出 LC-FS 安全定义与 LinEra 构造(GGM 可穿刺 PRF + 沿谱系的密钥图 + 加密向量索引),给出随机预言机模型与标准模型下的安全证明和谱系完整性证明,约 140 行代码集成进 mem0,并在 LoCoMo 与 LongMemEval 上用 1.5B–7B 真实模型评测。
    • 威胁模型:
      • 目标:被遗忘对象及其全部后代对攻击者不可读。
      • 知识:攻击者始终可见存储(密文、谱系图、文件、备份、空闲页、日志),并在遗忘之后获得全部历史存储与当前秘密状态(诚实但好奇的云主机、被盗笔记本、被扣押服务器、被迫披露)。
      • 能力:自适应提交内容、父列表与遗忘请求;不能获得遗忘前的秘密状态。
      • 受害系统与范围外:带长期记忆的 LLM 智能体;遗忘瞬间的 RAM、运行进程侧信道与模型权重不在范围内。
  2. 有哪些相关研究?

    相关工作分四组:可穿刺原语与前向安全、密码学删除、智能体遗忘、记忆撤销;作者称 LinEra 覆盖派生数据。

    可穿刺原语与前向安全

    • Boneh–Waters 等引入受限/可穿刺 PRF,GGM 树构造是基础实例,自适应安全性另有研究。
    • 可穿刺加密为异步消息和 0-RTT 密钥交换提供前向保密;可穿刺密钥包装在固定标签集合上穿刺。
    • 论文指出这些工作都把被保护项视为相互独立,本文的贡献是让一个项的密钥依赖其派生来源的密钥,一次穿刺擦除事先未知的闭包。

    安全删除与密码学擦除

    • Reardon 等综述安全删除;密码学擦除(删密钥而非数据)是存储无法覆写时的标准做法。
    • Holepunch 用 GGM PPRF 删除文件并处理崩溃一致性,本文复用其状态处理思路;云存储方案提供外包存储的细粒度擦除与可移植擦除存储。
    • 论文指出这些工作都没有建模“数据被第三方过程(这里是语言模型)从已删除数据派生”的情形。

    LLM 智能体的遗忘

    • 机器遗忘从模型权重中移除训练数据影响,与本文的外部记忆问题互补。
    • ForgetAgent 跨多层记忆做逻辑删除并开具删除回执;execution-state unlearning 重放不含被遗忘输入的执行;基准与行为分析发现被删记忆仍影响后续回答。
    • Ghost Vectors 发现 HNSW 索引中软删除的向量可重建,并提出逐 epoch 加密;MemLineage 记录签名的派生 DAG 用于防记忆投毒(完整性而非擦除);MemoRepair 与 agentic unlearning 逻辑上撤回派生记忆,无对抗事后窃取存储的保证;一项基准发现当前记忆系统很少端到端完成遗忘请求。作者称 LinEra 是所知首个对派生记忆给出形式化保证、且能对抗事后窃取存储与当前秘密状态的方案。

    智能体记忆中的撤销

    • 作者与同事的前期工作用同一依赖图界定修复错误源所需的工作量(完整性与可用性问题);LinEra 处理机密性一侧,两者可共享谱系捕获。

    基线与基准:实验基线为逻辑删除(明文行 + hnswlib 软删除 HNSW 索引)、逐对象密钥(GGM,无谱系,Holepunch 式)、epoch 密钥(每五个会话一个密钥,Ghost Vectors 式);基准为 LoCoMo 与 LongMemEval-S,案例研究用 mem0 2.2.1。

  3. 论文如何解决这个问题?

    LinEra 用 GGM 可穿刺 PRF 作根,派生记忆的密钥由父密钥 HKDF 派生,遗忘即一次穿刺使闭包不可解密。

    整体思路:LinEra 把每个记忆对象的密钥绑定到它在派生图上的来源——源对象的密钥来自可穿刺伪随机函数,派生对象的密钥是其全部父密钥与自身 PPRF 值的 HKDF;遗忘一个源只需穿刺一次,所有后代因无法算出父密钥而永久不可解密,无需被定位。

    问题形式化与谱系规则

    • 记忆是对象集合:源对象(用户消息、工具结果、文档块)无父节点,派生对象(摘要、事实、画像、向量)由智能体从其他对象写出;父关系构成有向无环图,Cl(Φ) 表示 Φ 及其全部直接、间接后代的谱系闭包。
    • 健全规则:派生对象的父节点是写入器上下文中出现的所有对象(新消息、会话窗口、检索返回的记忆);归因规则:由归因函数选子集(实验中取向量最接近的 3 个上下文对象)。
    • Lemma 1(上下文限定):在健全规则下,任一源 s 的闭包之外的所有对象内容联合独立于 s;作者称这是健全规则“健全”的原因,同时列出三条任何存储方案都无法消除的界限:权重 θ 已知的内容、其他源也携带的信息、请求前已被复制出系统的内容。

    安全定义 LC-FS

    • 定义 1 的游戏中,挑战者抛比特 b,攻击者自适应调用 New、Chal(|m0|=|m1|,存 mb 为挑战对象)、Forget 三个预言机,始终看到全部密文与谱系图,最后 Corrupt 获得当前秘密状态并输出 b′。
    • 攻击者合法当且仅当每个挑战对象在腐坏时刻都属于 Cl(Φ);优势可忽略则方案谱系完整前向安全(LC-FS)。作者称该定义覆盖任意写入器(诚实或恶意)、允许闭包内多处挑战、且因攻击者拿到全部历史密文而天然包含备份与存储残留。

    密钥派生与加密

    • 密钥按谱系派生:源对象 ko = F(S, to),派生对象 ko = HKDF(kp1 | ⋯ | kpm | F(S, to); Io),其中 F 是 GGM 可穿刺 PRF(32 位标签,SHA-256 作长度加倍生成器),父密钥按标签排序,HKDF 用空盐。
    • 内容用 ChaCha20-Poly1305 加密,关联数据含自身与父节点标签,把密文绑定到谱系:篡改父列表会导致解密失败(谱系完整性,Theorem 2)。
    • 派生式中保留自身的 F(S, t_o) 项,使每个派生对象也可单独被遗忘(穿刺它及其后代)。

    遗忘、崩溃一致性与向量索引

    • Forget 流程:解密含闭包的向量分片 → 穿刺 PPRF 并以临时文件、fsync、rename 序列原子写入新状态 → 丢弃闭包的缓存密钥 → 重建分片;删除数据行只是卫生措施,安全不依赖它。Rotate 用新 PPRF 密钥重加密全部可读对象以压缩状态。
    • 向量按分片存储(智能体实验每片至多 64 个对象,扩展实验 256 个),分片密钥是其全部成员密钥的 HKDF;只有所有成员可读时分片才能解密,旧版本分片随被穿刺的密钥失效。
    • mem0 集成(约 140 行):包装器把每条 incoming 消息存为源对象并开启谱系上下文,调用期间 mem0 检索到的记忆和展示给模型的最近十条消息计入父节点;作者发现 mem0 另有一个明文 SQLite 库存原始消息和历史(删除时把旧文本写入历史表),包装器把该历史只留在 RAM。

    降低代价的两个办法

    • 重推导:遗忘后,受影响的会话由同一写入器从存活的源与记忆重新摘要,新记忆带健全父节点,代价是每个受影响会话一次模型调用。
    • 小上下文写入:遗忘半径随写入器看到的源轮数(fan-in)增长;用几轮短窗口提取事实、不回喂旧摘要,可让每个记忆的父集合保持很小。
  4. 论文做了哪些实验?

    真实 LLM 写 LoCoMo 记忆后,逻辑删除泄露 35/35 个秘密、逐对象/epoch 密钥泄露 22 个,LinEra 健全规则泄露 0 个。

    实验设置

    • 被测模型:写入器、重推导器与答题器始终是同一开源模型(温度 0):Qwen2.5-1.5B-Instruct(4 比特量化,CPU,主实验)、Llama-3.2-3B-Instruct(4 比特,两段对话)、Qwen2.5-7B-Instruct(16 比特,vLLM 0.33,一块 H100,扩展实验);嵌入用 bge-small-en-v1.5(384 维)。
    • 数据:回放 LoCoMo 长对话,主实验覆盖前 5 段对话(128 会话、2,795 轮,模型写出 967 条派生记忆),扩展实验覆盖全部 10 段(272 会话、5,953 轮);另用 LongMemEval-S 子集(24 题、76 会话、405 轮、514 条派生记忆;扩展实验 100 个历史)。
    • 植入秘密:在按种子选取的四分之一会话中插入 canary 轮次(主实验 35 个、扩展 71 个),由四种模板生成,含随机五位数与虚构词。
    • 方案:逻辑删除 + 软删除 HNSW、逐对象密钥、epoch 密钥(五个会话一个密钥)、LinEra 归因规则、LinEra 健全规则;基线只擦除被遗忘轮次本身(其文档记载的行为)。
    • 攻击者通道(E1/E2):遗忘后攻击者获得全部文件与当前秘密状态,经四条通道恢复秘密:(i) 可读/可解密记录中的精确秘密;(ii) 文件原始字节中的精确秘密(捕捉空闲页残留);(iii) 向量攻击:真句对 99 个同模板诱饵,最近向量命中即成功(知道模板的强攻击者);(iv) 可读后代中出现 canary 主题。
    • 效用指标:top-10 检索命中证据会话的比例(760 题,排除第 5 类);token F1(主实验 60 个采样题,扩展实验 1,323 题全量评分);随机种子 20261109,半径实验 3 个种子。

    主结果

    Table 1(LoCoMo 128 会话,遗忘 35 个 canary,攻击者持全部文件与当前秘密状态;各列为经该通道恢复的 canary 数,满分 35):

    表格较宽,可左右滑动

    方案可读记录中精确秘密原始字节向量识别(1/100)后代中主题任一通道擦除对象数
    逻辑删除+软删 HNSW143526223535
    逐对象密钥1408222235
    epoch 密钥1408222235
    LinEra 归因规则0003356
    LinEra 健全规则00000526
    • 作者称逻辑删除失去一切:被删轮次留在 SQLite 空闲页(35/35),软删除的 HNSW 向量可恢复(26 个被识别);逐对象与 epoch 密钥消除了存储残留,但模型写下的摘要和事实仍可读。
    • 归因规则不泄露精确秘密,但泄露 3 个 canary 的主题:模型把 canary 折进摘要时归因函数漏掉了该轮。
    • 健全规则经所有通道零泄露,代价是擦除 526 个对象(归因规则为 56 个),即后文研究的遗忘半径。

    遗忘半径与 fan-in 定律(E5)

    • 测了什么:Table 2 统计谱系图并测随机遗忘 1%/5%/10% 轮次时被擦除派生记忆的占比。健全规则下每条派生记忆平均 24.8 个父节点、167.1 个源祖先;遗忘 1% 轮次擦除 74.8% 派生记忆,5% 时 99.0%。
    • 结构性对照:扁平派生(写入器看原始轮次而非摘要)在 1% 时半径仍为 59.7%;作者称关键在于写入器上下文的源轮数 fan-in f——记忆以约 (1−p)^f 的概率在遗忘率 p 下存活(Figure 2 中实测点与无拟合参数的预测线并列)。
    • 小上下文写入:同一模型改用四轮窗口提取事实(214 次短调用),平均 fan-in 从 126.2 降到 3.8,1% 时半径从 64.4% 降到 3.9%(10% 时 33.0%,会话写入器为 100.0%);安全性不变(11 个 canary 中逻辑删除泄露 11 个、逐对象/epoch 密钥泄露 10 个、LinEra 健全规则 0 个,仅擦除 40 个对象)。

    效用代价与补救(E3)

    • 检索(Table 3):facts-only 视图下健全规则使命中率从 63.2% 降到 1% 时的 18.9%(10% 时 0.4%);hybrid 视图(原始轮次也可检索)从 79.5% 降到 70.2%(1%);无谱系方案几乎不损失。
    • 答题(Table 4,LoCoMo 60 题):无遗忘 F1 为 12.9;健全规则 1% 时 10.5、10% 时 7.1(空库下限);重推导后 1% 时 17.2、10% 时 11.7,作者称 1% 时高于无遗忘水平、10% 时在一个标准差以内,且重推导记忆只有存活父节点,保证保持。
    • 窗口写入器:四轮窗口无遗忘 F1 为 24.1(高于会话写入器的 12.9),健全规则下 1% 时仍为 24.1、10% 时 21.3,重推导后 24.2/22.7;作者称小上下文写入器下健全规则在答题质量上几乎无代价。LongMemEval-S 子集(16 题,标准差约 7.4 分)方向相同,作者称只读方向。

    窗口大小、模型家族与扩展实验

    • 窗口扫描(Table 5、Figure 2,对话 0–1):fan-in 定律在 2 到 16 轮窗口均成立(无拟合参数);1% 时半径从 2 轮的 2.0% 升到 16 轮的 12.0%,会话写入器为 64.4%;无遗忘 F1 分别为 23.5(2 轮)、24.1(4 轮)、20.7(8 轮)、18.2(16 轮)、12.9(会话)。所有配置下 LinEra 零泄露,逐对象密钥泄露多数 canary(2 轮窗口 11/11,会话写入器 7/11);作者指出无谱系方案的张力:小上下文写入器更常逐字复制秘密,效用最好的配置恰是谱系最要紧的配置。
    • 第二模型家族:Llama-3.2-3B 逐字复制更多(11 个 canary 中 10 个进入派生记忆),逐对象/epoch 密钥泄露 10 个、逻辑删除 11 个、归因规则 1 个、健全规则 0 个;fan-in 141.9,1% 半径 63.2%(定律预测 70.7%);F1 无遗忘 28.5、健全规则 1% 时 16.1、重推导后 26.9。
    • 扩展实验(Table 6,Qwen2.5-7B,全部十段对话):60/71 个 canary 的精确秘密进入派生记忆(四轮窗口 68 个);逻辑删除泄露 70 个、逐对象/epoch 密钥 67 个、归因规则泄露 13 个主题(窗口下 0)、健全规则 0 个。会话写入器 fan-in 181.5,1% 半径 73.0%(预测 77.2%);四轮窗口 3.8%(预测 3.8%)。F1(1,323 题):会话写入器无遗忘 27.8、健全规则 1% 时 13.8、重推导后 27.9;窗口写入器 31.8、30.7、重推导后 31.8。作者称更大的写入器答题更好,但不改变任何结论。

    mem0 案例研究与系统开销(E4)

    • mem0 2.2.1 端到端:默认存储下写入 11 条记忆,按其提供的方式删除后活跃记忆不再含秘密,但 3 个秘密仍在 history.db 与向量库 SQLite 文件中(历史库按设计保留被删记忆文本)。接 LinEra 后遗忘两条消息擦除 12 个对象,攻击者在可解密记录与原始字节中均找不到秘密;因 mem0 给提取器看最近十条消息,11 条记忆中只有 1 条存活。换 Qwen2.5-7B 作提取器、60 条消息:原版删除 20 条记忆后 6 个秘密仍在 history.db;LinEra 擦除 131 个对象、130 条记忆中 3 条存活、零泄露。
    • 系统开销(Table 7,纯 Python,2 核 Xeon):10^6 对象时写 0.28 ms、冷缓存读 0.16 ms、遗忘中位 9.05 ms、100 次遗忘后 PPRF 状态 95.4 KiB、压缩一百万对象 59.9 s;热检索全分片扫描 326 ms 是主要开销。链式谱系下被遗忘轮次的闭包中位数在 10^5 对象时达 13,023 个,扁平谱系保持 9 个。真实 LLM 运行中 LinEra 每写对象约增加 0.11 ms、每次遗忘 5.7 ms。

    其他消融与分析

    • 归因规则(top-3 上下文)平均 3.0 父节点,遗忘一轮平均擦除 2.5 条派生记忆,1% 半径 19.4%(Table 2)。
    • 会话局部(session-local)对照:遗忘一轮擦除 7.6 条,1% 半径 18.9%(Table 2)。
    • 重推导代价:LoCoMo 1% 时 26 个会话 14 分钟(CPU),10% 时 38 个会话 20 分钟;窗口写入器 1% 时 8 次短调用、10% 时 67 次共 11 分钟(Table 4 及正文)。
    • 扩展实验 LongMemEval-S(77 题):健全规则 1% 时 F1 26.9(无遗忘 27.8)、10% 时 12.4,重推导后 28.7/29.7(Table 6)。
  5. 有什么可以进一步探索的点?

    作者列出模型规模、谱系图形状泄露、钩子覆盖等局限;实验覆盖三个开源模型、两个基准与 mem0。

    作者指出的局限与后续方向

    • 模型规模(第 9 节 Limitations):LLM 实验只用不超过 7B 的开源模型;作者认为前沿模型逐字复制秘密的多少可能不同,这会改变基线泄露多少,但不改变 LinEra 的保证。
    • 结果依赖推理引擎与硬件(第 9 节):同一量化模型换 CPU 重跑会改变少数答案,因此只在同一台机器算出的同一张表内比较条件。
    • 谱系图泄露形状(第 6 节 What leaks、第 9 节):谱系图、对象大小与创建时间为明文,遗忘后攻击者可知道某个有 k 个孩子的对象存在;隐藏图形状需要本身前向安全的加密,作者留作未来工作(第 10 节亦列为开放问题)。
    • 谱系捕获的假设(第 9 节):假设钩子能看到完整提示词;在框架之外读取记忆的工具会绕过捕获。
    • 归因规则刻意简单(第 9 节):更好的归因会提升效用,但仍给不出保证。
    • 开放问题(第 10 节):除隐藏谱系图形状外,另一个是把存储层擦除与模型权重的遗忘连接起来。

    实验覆盖范围

    • 被测模型为 Qwen2.5-1.5B-Instruct、Llama-3.2-3B-Instruct、Qwen2.5-7B-Instruct 共 3 个(第 8.1 节),嵌入模型为 bge-small-en-v1.5。
    • 数据为 LoCoMo(主实验前 5 段对话、128 会话;扩展实验全部 10 段、272 会话)与 LongMemEval-S 子集(24 题;扩展实验 100 个历史),植入 canary 分别为 35 个与 71 个(第 8.1、8.5 节)。
    • 对比方案为逻辑删除、逐对象密钥、epoch 密钥、LinEra 归因规则与健全规则共 5 种(第 8.1 节);攻击者通道为可读记录、原始字节、向量识别(1 真对 99 诱饵)、后代主题共 4 条(第 8.2 节)。
    • 效用评测:检索 760 题,答题主实验 60 个采样题、扩展实验 1,323 题全量;半径实验 3 个种子,遗忘耗时为 100 次随机源轮次的中位数(第 8.1、8.5、8.7 节)。
    • 论文未报告与人工评估的一致性(答题质量用 token F1 自动评分);系统开销为纯 Python 单进程实现,作者称生产环境会用每分片近似索引(第 8.7 节)。
  6. 总结一下论文的主要内容

    LinEra 让记忆密钥沿派生图派生,一次穿刺擦除整个闭包;真实 LLM 实验中基线泄露多数秘密,LinEra 零泄露。

    一篇关于 LLM 智能体长期记忆安全删除的防御论文:记忆大多由模型从用户输入派生,删除原消息删不掉派生物、存储残留与备份。

    • 问题:用户请求遗忘后,如何保证被遗忘输入及其全部派生记忆,对事后窃取全部存储与当前密钥的攻击者永久不可读。
    • 方法:LinEra 用 GGM 可穿刺 PRF 作根,派生记忆的密钥是其全部父密钥与自身 PPRF 值的 HKDF;遗忘即一次穿刺,后代闭包无需定位即不可解密。健全谱系规则把写入器所见的一切记为父节点(Lemma 1 保证闭包外内容独立于被遗忘源);向量索引分片加密,分片密钥混合全部成员密钥;约 140 行集成进 mem0。作者给出 LC-FS 定义、随机预言机与标准模型下的安全证明及谱系完整性证明。
    • 泄露结果(Table 1,LoCoMo 128 会话,35 个 canary):攻击者持全部文件与当前密钥时,逻辑删除经某通道恢复 35/35 个秘密,逐对象与 epoch 密钥各 22 个,LinEra 归因规则 3 个(仅主题),健全规则 0 个;Qwen2.5-7B 写全部十段对话时为 70/71、67、13、0(Table 6)。
    • 代价与规律:健全规则下遗忘 1% 轮次擦除 74.8% 派生记忆(会话级写入器,Table 2);作者称半径遵循 fan-in 定律,记忆以约 (1−p)^f 的概率存活,四轮窗口把 1% 半径降到 3.9% 且答题 F1 不降(24.1 对会话写入器的 12.9,Table 5);重推导恢复答题质量,代价是每个受影响会话一次模型调用。
    • 案例与开销:mem0 默认删除后秘密仍在 history.db 与向量库文件中,接 LinEra 后攻击者零发现;10^6 对象时一次遗忘中位 9.05 ms(Table 7)。
    • 作者结论:保证的代价是更大的遗忘半径,设计原则是缩小写入器上下文;归因规则可作效用旋钮,但部署它不应声称擦除了派生数据。开放问题为隐藏谱系图形状、连接存储层擦除与权重遗忘。
阅读原文arxiv.org