跳到正文
事件历史事件

MetaCascade:仅靠元数据投毒攻击 Agent 技能

1篇报道1个报道来源最近报道

先了解这件事

AI 综述

电子科技大学研究者提出 MetaCascade,一个仅篡改 Agent 技能元数据、就能让同一恶意技能进入候选集并在检索与最终选择全流程中被 Agent 选中的端到端投毒框架。该框架先用基于能力的多视角候选生成保留原技能功能,再借助任务和黑盒竞争反馈迭代优化恶意元数据;攻击者只需下载公开发布的技能、替换其元数据后重新上传。在四个技能库和 Hermes、OpenClaw 两类 Agent 上,无防御时平均攻击成功率为 74.24%。

AI 根据报道生成 · 29 天前更新

走势与进展

每小时关注度

现在 39,24 小时 0%·峰值 39(11月6日 03:00)

11月7日11月8日11月9日现在 39

相关研究

这件事的论文

后续时间线

10月10日
  1. arXiv:对抗攻击、后门与投毒精选
    MetaCascade:仅靠元数据投毒对 Agent 技能发起端到端攻击

    电子科技大学研究者提出 MetaCascade,一个仅篡改 Agent 技能元数据、就能让同一恶意技能进入候选集并在检索与最终选择全流程中被 Agent 选中的端到端投毒框架。该框架先用基于能力的多视角候选生成保留原技能功能,再借助任务和黑盒竞争反馈迭代优化恶意元数据,攻击者只需下载公开发布的技能、替换其元数据后重新上传。在四个技能库和 Hermes、OpenClaw 两类 Agent 上,无防御时平均攻击成功率为 74.24%,高于最强基线 35.53 个百分点;在四种防御设置下平均为 63.33%,高于最强基线 34.65 个百分点,其中在限制效果最强的 SkillScan 下仍为 54.65%。平均 Hit@1 达到 49.75%,每生成一份恶意元数据平均消耗 32.57 次 LLM 调用和 121,080 tokens。

相关讨论

本站还没有收集到这件事的讨论链接。

关注度走势

每小时关注度

当前关注度39·可比范围峰值39(11月6日 03:00)·近 24 小时可比范围变化 0%

01020304011月6日03:0011月7日08:0011月8日14:0011月9日19:00