跳到正文
10月8日 · 周四

阿里巴巴 · Qwen · 论文

找到 3 篇
筛选2

攻击类型

提示注入1恶意使用1

模型自身风险

拒答失当1偏见与歧视1

影响

有害内容1越权操作2输出被操纵1

系统形态

模型与 API1AI Agent2编程 Agent2网页与电脑操作1

攻击面/入口

用户输入1工具与技能描述1代码仓库与依赖2记忆写入1

层

模型层1应用层2

系统组件

MCP 与技能1权限与沙箱1视觉1多模态1

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 32 篇还没打标签，不在筛选结果里。
影响：越权操作影响：输出被操纵话题：阿里巴巴 · Qwen清除全部

另有 32 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv:2604.02947 ·

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    网页与电脑操作编程 Agent测试Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个应用层
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    完整解读
  3. 评测与基准arXiv:2608.11816 ·

    研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍

    审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为

    模型与 API测试Qwen2-VL-7B、Qwen2.5-VL-7B、Qwen3-VL-8B 等 9 个模型层
    摘要论文系统审计了 VLM 多模态审查，发现审查正从显式拒答转向隐蔽重构，且中文提示与文本先验会放大重构倾向。

    论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为，主要内容如下。

    完整解读
已经到底了