AI Agent 安全护栏的对比评估

一篇论文对四款商用 AI Agent 安全护栏产品做了系统对比评估，发现各产品在不同威胁类型上表现差异明显，且在最具 Agent 特征的威胁上表现最弱。评估覆盖指令覆盖、间接提示注入、工具滥用、有害内容生成、仇恨言论、色情内容和暴力七类威胁，前三类属于 Agent 特有威胁。DKnownAI Guard 在总体基准上的召回率和真负率最高，优于 AWS Bedrock Guardrails、Azure Content Safety 和 Lakera Guard；但在间接提示注入和工具滥用上，四款系统的表现都明显弱于仇恨言论、色情内容等传统内容类别。护栏属于部署时可更新、替换或叠加的控制手段，无需重新训练底层模型，评估还讨论了这些威胁类别与具身 AI 安全的对应关系。