构建安全 AI 智能体：针对间接提示注入攻击的系统级防御观点
Architecting Secure AI Agents: Perspectives on System-Level Defenses Against Indirect Prompt Injection Attacks
AI 导读
针对 AI 智能体的间接提示注入攻击，一篇立场论文提出系统级防御愿景与三项立场：动态任务与真实环境常需动态重规划、安全策略更新；某些依赖上下文的安全决策仍需 LLM，但只能在严格约束其观察与决定范围的系统设计内作出；本质模糊时个性化与人机交互应为核心设计。论文还称现有基准局限可能造成虚假的效用与安全感，并视系统级防御为智能体系统骨架。