跳到正文
10月8日 · 周四

红队 · 论文

找到 2 篇
筛选1

攻击类型

越狱19提示注入23投毒与后门9检测规避3恶意使用2

攻击技术

多轮渐进1

模型自身风险

危险能力1

影响

越权操作1滥用能力提升1

系统形态

AI Agent2编程 Agent2网页与电脑操作1

攻击者权限

黑盒1

攻击面/入口

用户输入2代码仓库与依赖1

层

应用层2

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。
攻击类型：恶意使用话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv:2604.02947 ·

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    网页与电脑操作编程 Agent测试Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个应用层
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    完整解读
  2. 攻击arXiv:2609.15383 ·

    微软团队提出 capability laundering 攻击：弱模型拆分任务向对齐前沿模型套取能力

    提出能力洗钱攻击，让未对齐编排器拆分任务向对齐模型套取能力

    编程 Agent攻击者黑盒测试GPT-5.5、Claude Opus 4.8、Grok-4.3 等 7 个应用层

    摘要作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。

    完整解读
已经到底了