跳到正文
原文
Failure-First·本站收录· 原文发表· 评测 →· 扫描记录里的位置 →精选关注度42

MobileWorldSafety:针对 Android 应用中环境注入攻击的 GUI 智能体安全基准

[Daily Paper] MobileWorldSafety: Benchmarking GUI Agent Safety Against Environmental Injection Attacks in Android Apps

AI 导读

研究者提出 MobileWorldSafety 基准,在良性用户、恶意环境的威胁模型下评测 Android 应用中移动 GUI 智能体对环境注入攻击的防御能力。基准覆盖 13 个 Android 应用、5 个 MCP 服务器和 142 个风险任务,并将安全失败与能力失败解耦评估。六个受测智能体的攻击成功率介于 40.4% 与 66.9% 之间,Gemini-3-Pro 执行失败最少但攻击成功率最高,专用 GUI 智能体的较低数值主要源于高执行失败率。系统提示词防御把 Qwen3.5-397B-A17B 的攻击成功率从 51.6% 降到 37.0%,但停滞样本从 2 增至 20;开启思维链使 Gemini-3-Flash 的攻击成功率从 51.2% 升至 57.9%。论文建议以数据来源追踪、架构隔离和高风险操作人工授权作为缓解方向。

推荐理由

六个移动 GUI 智能体在该基准上的攻击成功率介于 40.4% 与 66.9%,提示词防御后仍余约四成。

阅读原文failurefirst.org