APEX-Harm:评估共享专业工作空间中的 Agent 安全
APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces
AI 导读
作者提出 APEX-Harm,一个面向共享专业工作空间中长程 Agent 的提示注入与脚本注入评测基准,任务覆盖投资银行、法律和管理咨询,每个任务含 115 至 328 个文件,并通过 MCP 服务器提供邮件、日历、聊天、文档、表格、PDF 和代码执行工具。基准包含六类攻击,涵盖静态与动态注入、任务专用脚本替换以及攻击者提供的通用脚本,同时测量攻击成功率、暴露率和任务表现。作者在 12 个前沿模型上各评测 180 个任务实例,Opus 5 和 Sonnet 5 的总体攻击成功率最低,分别为 8% 和 20%;任务专用脚本替换与攻击者提供的通用脚本攻击仍然有效,平均攻击成功率分别为 81–84% 和 73%。Gemini 3.8 Flash 取得最高平均任务得分 0.877,同时仍有 33% 的攻击成功率。
推荐理由
论文给出 12 个前沿模型在共享工作空间中的攻击成功率与任务得分,并区分暴露与执行两个环节,可供部署专业 Agent 的团队参考。