跳到正文
原文
arXiv:越狱、提示注入、投毒与防御· arXiv:2611.09161· Ruoyu Zhou, Shuyao Jiang, Haifeng Ruan, Abhik Roychoudhury·本站收录· 原文发表

GreyZone:生产级智能体应用威胁基准

GreyZone: Production-quality Agentic Application Threats

AI 导读

研究者提出 GreyZone 基准,用于评估自动化红队服务对真实智能体应用的攻击能力。与主要评测被攻击主体 Agent 的 AgentDojo 不同,GreyZone 考察红队服务能否生成并投递造成可验证安全策略违规的攻击。基准选取独立开发的开源智能体应用,其安全边界涉及访问权限、机密性和操作授权,攻击面包括多智能体交互与多模态输入。作者用 Promptfoo 在 Letta Code 和 Clawith 上进行了两个初步案例研究,考察攻击投递、Agent 行为与验证结果,并发布了包含各应用主体 Agent 与攻击面的基准。

阅读原文arxiv.org