10月8日 · 周四

阿里巴巴 · Qwen · 论文

找到 2 篇

筛选1

攻击类型

提示注入1 恶意使用1

防御类型

影响

系统形态

模型与 API18 AI Agent12 编程 Agent7 网页与电脑操作2

攻击面/入口

用户输入1 网页与界面1 代码仓库与依赖1

层

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 33 篇还没打标签，不在筛选结果里。

系统形态：网页与电脑操作话题：阿里巴巴 · Qwen 清除全部

另有 33 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2604.02947 · 4月3日
AgentHazard：评估计算机使用智能体有害行为的基准
提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为
网页与电脑操作编程 Agent测试Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个应用层
- 恶意使用
摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。
AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。
完整解读
防御arXiv:2609.22178 · 8月27日
SCOPE：训练有能力且安全的计算机使用智能体
提出 SCOPE 联合后训练计算机使用智能体的任务执行与安全决策
网页与电脑操作测试Qwen3.5-9B、SCOPE-mid-checkpoint、SCOPE-Capability-Safety 等 14 个应用层
- 模型加固
- 提示注入
完整解读

已经到底了