保护 LLM Agent 长期记忆免受投毒：不可篡改、来源绑定的权限与机器可检验保证
Securing LLM-Agent Long-Term Memory Against Poisoning: Non-Malleable, Origin-Bound Authority with Machine-Checked Guarantees
AI 导读
论文提出 TMA-NM，一种面向 LLM Agent 长期记忆的防投毒机制，在写入时把记忆的行动权限绑定到来源，并在八个前沿模型上把直接攻击与三类洗白攻击的攻击成功率降到 0%，合法效用与无防御 Agent 持平。作者把洗白定义为攻击者经 Agent 自身摘要、可信工具回显和伪造佐证三条通道抹去记忆的不可信来源，并用 TLA+ 机检的分离定理证明内容与血缘类防御在此类攻击下不可靠。在 MEM-INV-Bench 上，内容信任评分被洗白攻击攻破 68%，单会话能力 IFC 还放行 84% 的直接攻击，血缘防御被摘要与回显攻破 47%。TMA-NM 的行动门是确定性检查，每次判定约 1.3μs，无需额外模型调用；作者也说明它不阻断非结论性的答案偏置，无界证明仍待完成。
推荐理由
论文用可机检的分离定理和跨模型基准说明，内容与血缘类记忆防御会被洗白攻击绕过，而按来源绑定权限的构造在八个前沿模型上保持零攻击成功率。