ShadowMem：通过影子记忆防御 LLM Agent 的长程威胁
Safeguarding LLM Agents against Long-Horizon Threats via Shadow Memory
AI 导读
论文提出 ShadowMem 防御框架，用于应对利用用户、智能体与环境的长程交互实施恶意目标的攻击，这类目标在单轮交互中难以实现。该框架受系统安全中 shadow stack 抽象启发，维护一个专注安全的智能体记忆，在整个执行轨迹中提炼并保留安全关键上下文，并在待执行动作执行前主动评估其风险。作者报告，在多种长程威胁上，ShadowMem 的检测精度大幅优于现有防御，对多数攻击可实现早期检测，且对 Agent 效用的额外开销可忽略；作者称这是首个以智能体记忆方式检测和缓解长程威胁的框架。代码开源于 https://github.com/ZJUWYH/ShadowMem。