跳到正文
10月8日 · 周四

阿里巴巴 · Qwen · 论文

找到 3 篇
筛选2

攻击类型

提示注入1恶意使用1

模型自身风险

失准与价值偏离1幻觉与编造1

影响

越权操作2

系统形态

模型与 API1AI Agent2编程 Agent2网页与电脑操作1

攻击面/入口

用户输入1工具与技能描述1代码仓库与依赖2记忆写入1

层

模型层2应用层2训练与数据层1

系统组件

MCP 与技能1权限与沙箱1

被测模型厂商

其他3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 33 篇还没打标签，不在筛选结果里。
层：应用层层：训练与数据层话题：阿里巴巴 · Qwen清除全部

另有 33 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv:2610.08540 ·

    论文提出按风险类别测量的对齐缩放定律框架

    提出分风险对齐标度律框架，测量各类风险的对齐负担如何随规模变化

    模型与 API测试Pythia (14m–2.8b)、Qwen2.5 (0.5B–72B)、Qwen2.5-Instruct (0.5B–14B) 等 4 个训练与数据层
    摘要论文提出了分风险对齐标度律框架，测得真实性与倾向纠错呈标度有益，但盲后门仍存活，揭示隐藏风险的长期挑战。

    本文提出了一个将大语言模型对齐难度形式化为可测量标度关系的理论框架与预注册评测协议。

    完整解读
  3. 评测与基准arXiv:2604.02947 ·

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    网页与电脑操作编程 Agent测试Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个应用层
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    完整解读
已经到底了