跳到正文
原文
arXiv· arXiv:2608.09885· Wanying Qu·· 2026-08-11

SHE:面向 LLM Agent 的轨迹驱动安全护栏演化框架

SHE: Trajectory-driven Safety Harness Evolution for LLM Agents

AI 导读

研究者提出 Safety Harness Evolution(SHE),一个从 rollout 轨迹中学习演化安全边界的框架,用于提升 LLM Agent 的安全性。SHE 把 Agent 护栏拆成 System Prompt、Rule Bank、Safety Memory 和 Tool Policy 四类具有明确安全职责的组件,为局部演化划定功能边界。在此基础上,SHE 引入归因引导的演化循环,把轨迹失败转化为结构化诊断,学习各组件专属的边界修正,并通过安全与效用验证筛选演化后的护栏。

阅读原文arxiv.org