跳到正文
原文
arXiv:越狱、提示注入、投毒与防御· arXiv:2610.06966· Xinran Zheng, Xin Fan Guo, Zhiqiang Hao, Fan Yang, Xingzhi Qian, Jiawei Du, Jinfeng Xu, Zheng Xing, Shuo Yang, Xingjun Wang·本站收录 · 原文发表 精选关注度53

APEX:在 LLM Agent 执行边界主动防御间接提示注入

APEX: Active Protection at Execution Boundaries for LLM Agents

AI 导读

研究者提出 APEX,把间接提示注入的防御从识别攻击模式转向在执行边界检查每个待执行动作,即 Agent 将内部状态转为外部动作或输出释放的位置。APEX 在不受信任内容到达前把用户任务编译成授权契约,用两个机制读取它:WRAP 依据契约与运行时证据只放行可被证明授权的动作和参数,PLANT 在契约背书的依赖通道上放置探针,使未被任务背书的信息在使用时暴露。该方法只需对每个能力单元做一次与任务无关的注册,同一套中介逻辑统一适用于 Tool、MCP 和 Skill 调用,包括嵌套调用。在覆盖三类能力单元的六个基准上对比 13 个基线,APEX 在其中五个基准上攻击成功率为 0%,第六个为 0.56%,并在针对三类能力单元的自适应攻击下保持 0% 攻击成功率。代码已公开。

深度解读生成中

推荐理由

APEX 把间接提示注入的防护从识别攻击模式转到执行边界,用授权契约同时约束越权动作与未背书信息使用,并给出跨 Tool、MCP、Skill 的评测数据。

阅读原文arxiv.org