Chema Alonso 团队提出多 Agent 碎片化越狱攻击及监控工具 JAMON
Chema Alonso团队提出多Agent碎片化越狱及监控JAMON
AI 导读
Chema Alonso 与 Daniel Romero Ruiz 提出针对多 Agent 系统(MAS)的碎片化越狱攻击,把恶意目标拆解成多个单独看无害的子任务,由不同 Agent 接力执行,从而绕过每个 Agent 各自的安全判断。该工作以 Isaac Asimov 小说《Naked Sun》中的机器人三定律为类比,论文题为 Mitigation of Fragmentation Jailbreak Attacks in Multi-Agent Systems: An Architecture Based on Global Semantic Monitoring,已在 9 月于布加勒斯特举行的 IEEE CYBER-AI 2026 会议上由 Daniel Romero Ruiz 报告。作者指出这类攻击在时间上未必连续,可能穿插在良性动作之间长期潜伏,检测范围与成本仍是待研究的问题。