遏制 LLM Agent 系统中的多种权限提升：一个强制访问控制框架
Taming Various Privilege Escalation in LLM-Based Agent Systems: A Mandatory Access Control Framework
AI 导读
论文提出 SEAgent，一个基于属性访问控制（ABAC）的强制访问控制框架，用于阻止 LLM Agent 系统中的权限提升。作者把权限提升定义为 Agent 执行超出用户任务所需最小权限的动作，并在 LLM Agent 系统的形式化模型上识别出新的权限提升场景，包括多 Agent 系统中类似经典混淆代理问题的一种变体。SEAgent 通过信息流图监控 Agent 与工具的交互，并依据实体属性执行可定制的安全策略。评估显示，SEAgent 能有效阻断多种权限提升，同时保持较低的误报率和可忽略的系统开销。