ACIArena：面向智能体级联注入的统一评估
ACIArena: Toward Unified Evaluation for Agent Cascading Injection
AI 导读
研究者提出 ACIArena，一个评估多智能体系统（MAS）抵御智能体级联注入（ACI）攻击鲁棒性的统一框架，覆盖外部输入、智能体配置和智能体间消息三类攻击面，以及指令劫持、任务破坏、信息外泄三类攻击目标，包含六种广泛使用的 MAS 实现和 1,356 个测试用例。基准结果显示，仅凭拓扑结构评估 MAS 鲁棒性并不足够，鲁棒的 MAS 需要精心的角色设计和受控的交互模式；在简化环境中开发的防御往往难以迁移到真实场景，范围过窄的防御甚至可能引入新的漏洞。