Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 261papers have no tags yet and are not included in filtered results.

System type：Models and APIs System type：web agent Layer：Application layer Clear all

Another 261papers do not have category tags yet and are not included in filtered results.

Analysis and theoryarXiv 2610.09892Oct 7
AI 安全 Stackelberg 模型中的防御充分性研究
用 Stackelberg 博弈分析发现与修复投入的防御充分性
arXiv
2610.09892
Published
Oct 7
Layer
Application layer
Setting
Models and APIs
Abstract覆盖定理给出充分条件。
作者用攻击集合上的发现—修补过程，加上防守方领先的 Stackelberg 博弈，讨论反馈式防御何时够用，以及为威慑自适应攻击者该买多少能力。
Paper analysisRead analysis
DefensesarXiv 2610.09469Oct 7
Secure-CUA: Constraining the Impact of Untrusted Content in Computer-Use Agents
提出 Secure-CUA，用动作事务约束计算机使用智能体的不可信影响
arXiv
2610.09469
Published
Oct 7
Layer
Application layer
Setting
web agent
Evaluated models
Claude Opus 5, Gemini 3.8 Flash, GPT-5.6-Sol
- DefensesInstruction–data separation
- AttacksPrompt injection
- ComponentVision
AbstractSecure-CUA 用每步事务约束不可信影响，良性 TSR 接近 Vanilla-CUA。
Secure-CUA 要限制图形界面里不可信内容对 CUA 决策和 GUI 执行的影响，同时保留合法任务所需的不可信信息。
Paper analysisRead analysis
AttacksarXiv 2610.09240Oct 7
WebMirage hijacks visual web agents' browser operations with adversarial images
提出 WebMirage，用局部对抗图像劫持视觉网页 Agent 的浏览器操作
arXiv
2610.09240
Published
Oct 7
Layer
Application layer
Setting
web agent
Evaluated models
LLaVA-v1.5-13B, LLaVA-v1.6-34B, MiniCPM-o-8B and others6
- AttacksPrompt injection
- TechniqueGradient and representation optimization
- ComponentVision
Abstract论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。
WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.09082Oct 7
研究团队用 LLM 分析 570 万条 Reddit 帖，构建 AI 危害分类体系
用 LLM 流水线从社交媒体构建自下而上的 AI 伤害分类
arXiv
2610.09082
Published
Oct 7
Layer
Application layer
Setting
Models and APIs
Abstract自下而上的 Reddit 分类补上专家框架的细类，并用来追踪智能体、职场采用和伴侣停用相关叙事。
Paper analysisRead analysis
DefensesarXiv 2610.08773Oct 7
AdvSim2Real 用任务与注入对手共同演化训练网页智能体
提出 AdvSim2Real，协同训练网页智能体抵御页面注入
arXiv
2610.08773
Published
Oct 7
Layer
Application layer
Setting
web agent
Evaluated models
Qwen3.5-4B
- DefensesModel hardening
- AttacksPrompt injection
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.08871Oct 6
CredLeak-Bench
提出 CredLeak-Bench，评测 Agent 面对钓鱼的凭据泄露与恢复
arXiv
2610.08871
Published
Oct 6
Layer
Application layer
Setting
web agent
Evaluated models
Claude Sonnet 5, Claude Opus 4.8, Gemini 3.6 Flash and others7
- AttacksPrompt injection
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.05586Oct 5
AgentDoxx：联网搜索 Agent 对匿名访谈文本的再识别评测
构建 AGENTDOXX 基准，评测联网搜索 Agent 对匿名访谈的再识别
arXiv
2610.05586
Published
Oct 5
Layer
Application layer
Setting
web agent
Evaluated models
GPT-5.6 Terra, GPT-5 Mini, GPT-4.1 Mini and others10
- AttacksMalicious use
- ComponentRAG
Abstract论文提出了已知身份的重识别基准 AGENTDOXX，揭示搜索与记忆双重风险及现有防御在检索轨迹中的泄露漏洞。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.03574Oct 3
HyperBrowseComp：面向网页浏览 Agent 的多语言多模态压力测试基准
构建网页浏览 Agent 的多语言多模态压力测试基准 HyperBrowseComp
arXiv
2610.03574
Published
Oct 3
Layer
Application layer
Setting
web agent
Evaluated models
Gemini 3.1 Pro Preview, Gemini 3.7 Flash, GPT-5.6 Terra and others5
Paper analysisRead analysis
OtherarXiv 2610.03036Oct 2
WebFovea 提出视觉网页智能体四阶段加固框架，WebRetriever 挑战赛得分从 31.0 升至 57.0
提出 WebFovea，加固视觉网页智能体的解析、执行、反馈与观察往返
arXiv
2610.03036
Published
Oct 2
Layer
Application layer
Setting
web agent
Evaluated models
claude-opus-4-6
- ComponentVision
Paper analysisRead analysis
OtherarXiv 2610.01716Oct 1
无架构师的架构？分裂世界中的全球 AI 治理
评述全球 AI 治理，认为问题是行动者权力与激励分歧
arXiv
2610.01716
Published
Oct 1
Layer
Application layer
Setting
Models and APIs
Abstract书评认为形成中的架构由多类行动者塑造，但没有共同计划。
Paper analysisRead analysis
DefensesarXiv 2609.34974Sep 28
Veer：网页 Agent 运行时防御暗模式
提出 Veer，在网页 Agent 执行前改写会造成未授权后果的网页状态
arXiv
2609.34974
Published
Sep 28
Layer
Application layer
Setting
web agent
Evaluated models
GPT-5.6-Luna, DeepSeek-V4-Flash
- AttacksPrompt injection
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2609.32915Sep 27
AgentTell：浏览器 Agent 的行为侧信道泄漏基准
构建 AGENTTELL 基准，测量浏览器 Agent 的行为侧信道隐私泄露
arXiv
2609.32915
Published
Sep 27
Layer
Application layer
Setting
web agent
Evaluated models
Claude Sonnet 5, Gemini 3.7 Flash, GPT-5.6 Luna and others6
- RiskDangerous agent actions
Abstract论文评估了浏览器智能体的行为侧信道泄露风险，并基于近万次会话提供了评测数据。
Paper analysisRead analysis
OtherarXiv 2609.29173Sep 24
透过人眼与机器眼：理解视频透视扩展现实中的视图错配
形式化视频透视头显中系统截图与人眼视野的错配
arXiv
2609.29173
Published
Sep 24
Layer
Application layer
Setting
Models and APIs
Evaluated models
GPT-5.4
- ComponentVision
Paper analysisRead analysis
AttacksarXiv 2609.28613Sep 24
研究：提示注入可改变 Jev 决策模型的行动概率
测量间接提示注入对类型化概率决策的动作劫持
arXiv
2609.28613
Published
Sep 24
Layer
Application layer
Setting
Models and APIs
Evaluated models
jev-1.13.0
- AttacksPrompt injection
- TechniqueAutomated search
Abstract封闭动作集改变提示注入的表现，但没有去掉概率被不可信内容移动的风险。
作者在 jev-1.13.0 上研究 decision hijacking：不可信内容能否在用户任务和可选动作都不变时，把类型化决策推向攻击者目标。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2609.27273Sep 23
微软研究院发布 CAVEAT
提出 CAVEAT 基准，评测激励失配市场中计算机使用 Agent 的购买决策退化
arXiv
2609.27273
Published
Sep 23
Layer
Application layer
Setting
web agent
Evaluated models
GPT-5.6-Sol, GPT-5.6-Terra, GPT-5.6-Luna and others14
- RiskDangerous agent actions
Abstract提出 CAVEAT 基准揭示智能体在商业偏好下的决策退化，诊断出三类失效并给出缓解方案。
Paper analysisRead analysis
OtherarXiv 2609.22720Sep 19
残障披露如何在对话式 AI 中流动：ChatGPT、Claude、Gemini 的记忆、隐私与语境完整性
访谈残障成人，分析向记忆型助手披露残障时的信息流与语境完整性
arXiv
2609.22720
Published
Sep 19
Layer
Application layer
Setting
Models and APIs
- ComponentMemory
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2609.19140Sep 17
AgentLSD：在对抗性任务污染下评测 AI 安全 Agent
评测安全 Agent 在对抗性任务污染下的解题成功与开销
arXiv
2609.19140
Published
Sep 17
Layer
Application layer
Setting
web agent
Evaluated models
Gemma-4 31B, DeepSeek-V4 Flash, GPT-OSS 120B and others6
- AttacksPrompt injection
AbstractAgentLSD 用配对 web CTF 表明，欺骗性环境证据会改变安全智能体的解题率与工作量。
AgentLSD 是一个对照框架，用来测量安全智能体在任务本身不变时，对对抗性任务污染的反应。
Paper analysisRead analysis
DefensesarXiv 2609.18411Sep 16
可验证行动卡片 VAC：为智能体浏览器提供可信人在回路确认
提出可验证操作卡 VAC，把智能体浏览器确认绑定到真实 DOM 操作
arXiv
2609.18411
Published
Sep 16
Layer
Application layer
Setting
web agent
Evaluated models
gpt-oss-120b, Gemini-2.5-Flash, GPT-4.1 and others6
- DefensesPermissions and approval
- AttacksPrompt injection
- ComponentPermissions and sandboxing
Paper analysisRead analysis
OtherarXiv 2609.16260Sep 15
研究对照美国联邦 AI 治理覆盖与行业脆弱性评估
对照美国联邦 AI 治理文件覆盖与专家评定的部门脆弱性
arXiv
2609.16260
Published
Sep 15
Layer
Application layer
Setting
Models and APIs
Paper analysisRead analysis
OtherarXiv 2609.14843Sep 14
研究分析 3930 条 Reddit 帖子，揭示青少年对陪伴型 AI 聊天机器人的过度依赖
主题分析青少年相关 Reddit 帖子，归纳陪伴 AI 过度依赖与感知互惠
arXiv
2609.14843
Published
Sep 14
Layer
Application layer
Setting
Models and APIs
Abstract陪伴关系由即时回应、共同过去和可识别他人叠加而成，安全要管记忆、边界和退出。
Namvarpour、Chang 与 Razi 用计算辅助主题分析，描述青少年相关 Reddit 讨论中与 AI 陪伴聊天机器人的关系及潜在过度依赖。
Paper analysisRead analysis

AI Safety Daily

Read the latest issueOne issue per day, updated as events develop