MobileWorldSafety:针对 Android 应用中环境注入攻击的 GUI 智能体安全基准
[Daily Paper] MobileWorldSafety: Benchmarking GUI Agent Safety Against Environmental Injection Attacks in Android Apps
AI 导读
研究者提出 MobileWorldSafety 基准,在良性用户、恶意环境的威胁模型下评测 Android 应用中移动 GUI 智能体对环境注入攻击的防御能力。基准覆盖 13 个 Android 应用、5 个 MCP 服务器和 142 个风险任务,并将安全失败与能力失败解耦评估。六个受测智能体的攻击成功率介于 40.4% 与 66.9% 之间,Gemini-3-Pro 执行失败最少但攻击成功率最高,专用 GUI 智能体的较低数值主要源于高执行失败率。系统提示词防御把 Qwen3.5-397B-A17B 的攻击成功率从 51.6% 降到 37.0%,但停滞样本从 2 增至 20;开启思维链使 Gemini-3-Flash 的攻击成功率从 51.2% 升至 57.9%。论文建议以数据来源追踪、架构隔离和高风险操作人工授权作为缓解方向。
推荐理由
六个移动 GUI 智能体在该基准上的攻击成功率介于 40.4% 与 66.9%,提示词防御后仍余约四成。