AgentDyn：你的智能体安全防御能否在真实动态环境中部署？
AgentDyn: Are Your Agent Security Defenses Deployable in Real-World Dynamic Environments?
AI 导读
研究者提出 AgentDyn 基准，检验智能体防御间接提示注入的能力能否迁移到真实动态环境。作者指出现有基准存在三点不足，即缺少动态开放任务、缺少有帮助的指令、用户任务过于简单，并据此手工设计了覆盖购物、GitHub 与日常生活的 60 个开放任务和 560 个注入测试用例，要求智能体动态规划并处理有用的第三方指令。对十种最先进防御的评估显示，几乎全部防御要么安全性不足，要么存在明显过度防御，现有防御距离真实部署仍有差距。基准开源于 https://github.com/leolee99/AgentDyn。