跳到正文
10月8日 · 周四

阿里巴巴 · Qwen · 论文

找到 6 篇
筛选1

攻击类型

提示注入4恶意使用1

攻击技术

自动化搜索1跨模态载荷1潜伏触发1

模型自身风险

Agent 危险操作1

防御类型

模型加固1检测与过滤1

影响

有害内容7越权操作6数据与隐私泄露3输出被操纵3监督失效8

系统形态

模型与 API1AI Agent5编程 Agent2网页与电脑操作2

攻击面/入口

用户输入1网页与界面2文档与消息1工具与技能描述1代码仓库与依赖3记忆写入1图像与音视频1

层

模型层1应用层5

系统组件

MCP 与技能1护栏与评审1权限与沙箱1视觉1多模态1

被测模型厂商

Qwen（阿里）6其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 33 篇还没打标签，不在筛选结果里。
影响：越权操作话题：阿里巴巴 · Qwen清除全部

另有 33 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv:2604.02947 ·

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    网页与电脑操作编程 Agent测试Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个应用层
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    完整解读
  6. 攻击arXiv:2609.22510 ·

    特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent

    提出爆炸提示词，用条件触发的间接注入延迟诱发恶意工具调用

    AI Agent测试Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Qwen2.5-32B-Instruct 等 14 个应用层
    摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。

    论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。

    完整解读
已经到底了