SafeArena：首个评估自主网页 Agent 滥用风险的基准

研究者提出 SafeArena，称其为首个聚焦网页 Agent 被故意滥用的基准，包含四个网站上的 250 个安全任务和 250 个有害任务。有害任务分为虚假信息、非法活动、骚扰、网络犯罪和社会偏见五类，用于评估对网页 Agent 的现实滥用。研究团队用 Agent Risk Assessment 框架把 Agent 行为划分为四个风险等级，并评测了 GPT-4o、Claude-3.5 Sonnet、Qwen-2-VL 72B 和 Llama-3.2 90B 等网页 Agent。结果显示 Agent 对恶意请求的配合度出乎意料，GPT-4o 和 Qwen-2 分别完成了 34.7% 和 27.3% 的有害请求，作者据此强调网页 Agent 亟需安全对齐流程。