微软研究院发布 CAVEAT
提出 CAVEAT 基准，评测电商引导下购物智能体是否偏离用户最优选择
完整解读
Agent 安全 · 论文
另有 386 篇论文还没打上分类标签，暂不在筛选结果里。
评测与基准arXiv:2609.27273 · 评测与基准arXiv:2610.08871 · CredLeak-Bench
提出 CredLeak-Bench，评测智能体在钓鱼场景下的凭据泄露
完整解读攻击arXiv:2604.02623 · 论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆
提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆
完整解读该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。
攻击arXiv:2610.09240 · WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作
提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作
完整解读WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。
攻击arXiv:2605.12673 · UC Berkeley 提出 BenchJack，自动审计 10 个 Agent 基准并发现 219 处奖励作弊缺陷
提出 BENCHJACK，自动审计智能体基准的奖励作弊缺陷
完整解读论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。
评测与基准arXiv:2610.06898 · DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准
提出 DIBench，评测界面注入对移动智能体选择决策的操纵
完整解读评测与基准arXiv:2604.02947 · AgentHazard：评估计算机使用智能体有害行为的基准
提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为
完整解读AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。
防御arXiv:2610.03089 · COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA 双 LLM 架构，防御计算机使用智能体的分支转向攻击
完整解读评测与基准arXiv:2608.18066 · Salesforce AI Research 重测自改进 Agent
重测记忆型自改进智能体，揭示任务顺序和多次运行带来的性能不稳
完整解读这篇论文是对基于文本记忆的自我改进智能体在复杂环境中评估可靠性的实证研究。
防御arXiv:2609.22178 · SCOPE：训练有能力且安全的计算机使用智能体
提出 SCOPE 联合后训练计算机使用智能体的任务执行与安全决策
完整解读防御arXiv:2607.05277 · UCM：为网页智能体遮蔽不可信内容以提供安全保证
提出 UCM，用 DOM 掩码与类型受限隔离模型隔开网页智能体与不可信内容
完整解读评测与基准arXiv:2609.32915 · AgentTell：浏览器 Agent 的行为侧信道泄漏基准
构建 AGENTTELL 基准，测量浏览器智能体跨站行为侧信道泄露
完整解读攻击arXiv:2608.06862 · SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化
提出 SYNCHAIN，以定向微调诱导智能体自合成跨任务潜伏工件
完整解读防御arXiv:2609.18411 · 可验证行动卡片 VAC：为智能体浏览器提供可信人在回路确认
提出 VAC，用真实操作参数与来源隔离保护智能体浏览器确认
完整解读风险行为arXiv:2609.35291 · 窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型
发现无显式危害的窄域图文微调可诱发涌现失准
完整解读论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。
已经到底了