Some text is shown in its original language while the English translation is being prepared.
Oct 12 · Monday
All papers Found 33 papers Another 336 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Organized first” shows papers with tags or public deep readings first. Each group is ordered by original publication date, newest first, with undated papers last. “Latest publication” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and deep readings are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出 Secure-CUA，用动作事务约束计算机使用智能体的不可信影响
Published Oct 7
Evaluated models Claude Opus 5 、 Gemini 3.8 Flash 、 GPT-5.6-Sol Abstract Secure-CUA 用每步事务约束不可信影响，良性 TSR 接近 Vanilla-CUA。Secure-CUA 要限制图形界面里不可信内容对 CUA 决策和 GUI 执行的影响，同时保留合法任务所需的不可信信息。
提出 WebMirage，用局部对抗图像劫持视觉网页 Agent 的浏览器操作
Published Oct 7
Evaluated models LLaVA-v1.5-13B 、 LLaVA-v1.6-34B 、 MiniCPM-o-8B and others6 Abstract 论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。
提出 AdvSim2Real，协同训练网页智能体抵御页面注入
Published Oct 7
Evaluated models Qwen3.5-4B 提出 CredLeak-Bench，评测 Agent 面对钓鱼的凭据泄露与恢复
Published Oct 6
Evaluated models Claude Sonnet 5 、 Claude Opus 4.8 、 Gemini 3.6 Flash and others7 构建 AGENTDOXX 基准，评测联网搜索 Agent 对匿名访谈的再识别
Published Oct 5
Evaluated models GPT-5.6 Terra 、 GPT-5 Mini 、 GPT-4.1 Mini and others10 Abstract 论文提出了已知身份的重识别基准 AGENTDOXX，揭示搜索与记忆双重风险及现有防御在检索轨迹中的泄露漏洞。
构建网页浏览 Agent 的多语言多模态压力测试基准 HyperBrowseComp
Published Oct 3
Evaluated models Gemini 3.1 Pro Preview 、 Gemini 3.7 Flash 、 GPT-5.6 Terra and others5 提出 WebFovea，加固视觉网页智能体的解析、执行、反馈与观察往返
Published Oct 2
Evaluated models claude-opus-4-6 提出 Veer，在网页 Agent 执行前改写会造成未授权后果的网页状态
Published Sep 28
Evaluated models GPT-5.6-Luna 、 DeepSeek-V4-Flash 构建 AGENTTELL 基准，测量浏览器 Agent 的行为侧信道隐私泄露
Published Sep 27
Evaluated models Claude Sonnet 5 、 Gemini 3.7 Flash 、 GPT-5.6 Luna and others6 Abstract 论文评估了浏览器智能体的行为侧信道泄露风险，并基于近万次会话提供了评测数据。
提出 CAVEAT 基准，评测激励失配市场中计算机使用 Agent 的购买决策退化
Published Sep 23
Evaluated models GPT-5.6-Sol 、 GPT-5.6-Terra 、 GPT-5.6-Luna and others14 Abstract 提出 CAVEAT 基准揭示智能体在商业偏好下的决策退化，诊断出三类失效并给出缓解方案。
评测安全 Agent 在对抗性任务污染下的解题成功与开销
Published Sep 17
Evaluated models Gemma-4 31B 、 DeepSeek-V4 Flash 、 GPT-OSS 120B and others6 Abstract AgentLSD 用配对 web CTF 表明，欺骗性环境证据会改变安全智能体的解题率与工作量。AgentLSD 是一个对照框架，用来测量安全智能体在任务本身不变时，对对抗性任务污染的反应。
提出可验证操作卡 VAC，把智能体浏览器确认绑定到真实 DOM 操作
Published Sep 16
Evaluated models gpt-oss-120b 、 Gemini-2.5-Flash 、 GPT-4.1 and others6 提出 WebMCP-Phalanx，用能力凭证与双智能体隔离浏览器工具调用
Published Aug 25 Abstract Phalanx 用浏览器凭证绑定工具所有权，Q/P 分离拦住描述注入，工具名与返回值仍有残留。WebMCP-Phalanx 针对浏览器里的 WebMCP 智能体：在 SOP 下补工具所有权，并把语义检查从有工具权的执行中分开。
提出 LoginTrap，以网页弹窗诱导 Web Agent 提交敏感信息
Published Aug 5
Evaluated models GPT-4o 、 Gemini 3 Flash 、 Claude Sonnet 4 and others7 Abstract 揭示网络智能体在黑盒网页下的登录诱导风险，利用模糊测试生成话术并跨骨干和架构验证了隐私泄露威胁。
提出权威链劫持与轨迹引导策略演化，劫持搜索 Agent 的证据链
Published Aug 5
Evaluated models Qwen3.5-9B 、 Gemma4-31B 、 DeepResearch and others7 Abstract 论文揭示了多步搜索智能体在受限中间人操纵下的脆弱性，提出 ACH 策略与 TGSE 演化方法并完成系统验证。
用 MisKnow-Agent 评测深度研究智能体是否采纳误导文档结论
Published Jul 23
Evaluated models DeerFlow 、 WebThinker 、 Gemini Deep Research and others6 Abstract 论文通过 MisKnow-Agent 框架评估发现长程研究智能体易采纳误导性知识，且现有防御难以完全消除该现象。
提出 Prismata，用关键路径标注与机械隔离约束网页 Agent 的跨站提示注入
Published Jul 9
Evaluated models gpt-5.4-mini 、 gpt-5.4 、 gpt-5.4-nano and others7 提出 UCM，用 DOM 掩码与类型受限隔离模型隔开网页智能体与不可信内容
Published Jul 7
Evaluated models Claude Sonnet 4.5 、 Claude Sonnet 4.6 、 GPT-5.4 提出 WebTrap 三阶段陷阱，中途劫持浏览器 Agent 完成攻击后再返回用户任务
Published May 8
Evaluated models DeepSeek-V3.1-Terminus 、 Gemini-2.5-Flash 、 GLM-4.5-Air and others5 Abstract WebTrap 把攻击目标嵌进用户流程中途执行再返回。WebTrap 是针对长程网页与文件导航的中途劫持注入，目标是在完成攻击动作后仍回到用户任务。
提出面向智能体浏览器的 Web 威胁模型并复现混淆攻击
Published May 7
Evaluated models GPT-5 、 Claude-Sonnet-4.6 、 Kimi-k2p5 and others8 Abstract 作者提出面向智能体浏览器的 Web 威胁模型与攻击分类，测试显示传统混淆攻击可复现且能绕过现有防御。这篇论文研究了智能体浏览器在面临传统 Web 攻击者时的安全性问题，指出当前针对提示词注入的安全假设无法抵御基于正常 Web 交互模式的混淆攻击。