跳到正文
原文

长程 LLM 智能体的安全防护与审计:智能体 Harness 中的状态转移审计与控制

Securing and Auditing Long-Horizon LLM Agents: State-Transfer Auditing and Controls in the Agent Harness

arXiv:其他 AI 安全论文· arXiv:2611.23346· Deep Shah, Nehal Kathrotia·本站收录· 13 小时前· 原文发表防御· 扫描记录里的位置 →
AI 导读

论文提出面向长程 LLM 智能体的状态转移审计架构,在智能体 Harness 的每个状态转移边界定义审计点,输出最小哈希链记录,并将低开销的确定性检查与基于模型的语义检查分开。作者指出,间接提示注入、上下文压缩丢失用户约束、工作区回滚不完整等故障发生在状态转移处,而传统执行轨迹只记录提示词与工具调用,导致多步轨迹上的故障归因和运行时监控失效。论文称,同一份转移记录可支撑最小权限能力、提示词之外的防重放授权、信息流控制、义务监控器以及跨多智能体与基础设施管道的事务恢复等运行时安全控制。作者实现并评估了一个参考 Harness 中间件,在 240 条多步故障注入轨迹上,转移记录能定位根因,并捕获生命周期日志与纯工具日志漏掉的跨转移违规,确定性开销在微秒级。

阅读原文arxiv.org