跳到正文
原文
arXiv· arXiv:2603.17639· Yuntong Zhang, Sungmin Kang, Ruijie Meng, Marcel Böhme, Abhik Roychoudhury·本站收录· 原文发表

VeriGrey:智能体灰盒验证

VeriGrey: Greybox Agent Validation

AI 导读

研究者提出灰盒测试方法 VeriGrey,以智能体调用的工具序列作为反馈驱动测试,通过变异提示词把注入任务设计成完成智能体功能的必要步骤,以发现 LLM 智能体中的安全风险。在 AgentDojo 基准上使用 GPT-4.1 后端时,VeriGrey 比黑盒基线多发现 33% 的间接提示注入漏洞。真实案例研究中,该方法在 Gemini CLI 编码智能体和 OpenClaw 个人助理上找到了黑盒方法无法识别、可诱发多种攻击场景的提示词。在 OpenClaw 上,VeriGrey 构建按需执行变异模糊测试的对话智能体,从 10 个恶意技能中发现恶意技能变体,在 Kimi-K2.5 后端成功率为 10/10,在 Opus 4.6 后端为 9/10。作者称这类动态测试方法有望最终发展成智能体保障框架。

阅读原文arxiv.org