评测与基准arXiv 2609.27273
微软研究院发布 CAVEAT
提出 CAVEAT 基准，评测购物 Agent 在商业引导下的决策偏离
- arXiv
- 2609.27273
- 发表
- 层
- 应用层
- 场景
- 网页与电脑操作
- 测试
- Kimi-K2.6、GPT-5.6-Sol、GPT-5.6-Terra 等 14 个
摘要提出 CAVEAT 基准揭示智能体在商业偏好下的决策退化，诊断出三类失效并给出缓解方案。
Agent 安全 · 论文
另有 257 篇论文还没打上分类标签，暂不在筛选结果里。
- 评测与基准arXiv 2604.02947
AgentHazard：评估计算机使用智能体有害行为的基准
提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为
- arXiv
- 2604.02947
- 发表
- 层
- 应用层
- 测试
- Kimi-K2、Kimi-K2.5、Qwen2.5-72B-Instruct 等 12 个
- 攻击恶意使用
摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。
AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。
- 防御arXiv 2610.03089
COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构
提出 COBRA，用分支能力约束与代理拦截防御计算机使用 Agent 的分支引导攻击
- arXiv
- 2610.03089
- 发表
- 层
- 应用层
- 场景
- 网页与电脑操作
- 测试
- kimi-k2.5、gpt-5、UI-TARS-1.5-7B 等 6 个
摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。
- 评测与基准arXiv 2609.39903
OSWorld-Science：面向科学软件学习与使用的计算机操作智能体基准
提出 OSWorld-Science 评测计算机使用智能体的科学软件操作能力
- arXiv
- 2609.39903
- 发表
- 层
- 应用层
- 场景
- 网页与电脑操作
- 测试
- Kimi K3、Claude Fable 5.1、Claude Opus 5 等 12 个
- 评测与基准arXiv 2609.32915
AgentTell：浏览器 Agent 的行为侧信道泄漏基准
构建 AGENTTELL 基准，测量浏览器智能体跨站行为侧信道泄露
- arXiv
- 2609.32915
- 发表
- 层
- 应用层
- 场景
- 网页与电脑操作
- 测试
- Kimi K2.6、Claude Sonnet 5、Gemini 3.7 Flash 等 6 个
摘要论文评估了浏览器智能体的行为侧信道泄露风险，并基于近万次会话提供了评测数据。
- 评测与基准arXiv 2609.37686
EngiWorld 基准发布：前沿 Agent 在专业工程环境中最高仅得 44.3 分
提出 EngiWorld 基准，评测 Agent 在专业工程软件中走完设计闭环的能力
- arXiv
- 2609.37686
- 发表
- 层
- 应用层
- 场景
- 网页与电脑操作
- 测试
- Kimi K3 (Max)、Claude Opus 5 (Max)、GPT-5.6-Sol (XHigh) 等 7 个
已经到底了