Some text is shown in its original language while the English translation is being prepared.
arXiv· arXiv:2602.07398· Ruoyao Wen, Hao Li, Chaowei Xiao, Ning Zhang·Indexed by this site · Originally publishedSelectedAttention53 AgentSys：通过显式分层记忆管理实现安全且动态的 LLM Agent
AgentSys: Secure and Dynamic LLM Agents Through Explicit Hierarchical Memory Management
AI reading guide
华盛顿大学圣路易斯分校与约翰霍普金斯大学的研究者提出 AgentSys，用显式分层记忆管理防御 LLM Agent 的间接提示注入，在 AgentDojo 上把攻击成功率降至 0.78%。主 Agent 为每次工具调用派生运行在隔离上下文中的 worker agent，外部数据与子任务推理轨迹不进入主 Agent 记忆，只有通过 JSON 校验的返回值能跨隔离边界；递归工具调用由 validator 把关，被拒时进入有界的 sanitize-restart 恢复流程。在 ASB 上攻击成功率为 4.25%，良性任务效用 64.36%，略高于无防御基线的 63.54%，在工具调用不少于 4 次的任务上攻击成功率为 0。消融实验显示，仅保留上下文隔离即可把攻击成功率降到 2.19%；面对人工构造与 PAIR 迭代细化的自适应攻击，攻击成功率分别为 1.43% 和 2.06%。
Deep readingGenerating
Why it was selected
论文借用操作系统进程隔离的思路管理 Agent 记忆，在 AgentDojo 上把攻击成功率降到 0.78%，并与十种防御做了对比。
Read originalarxiv.org