跳到正文
原文
Anthropic Red Teaming·本站收录 · 原文发表 精选关注度59

Anthropic 发布 LLM ATT&CK Navigator,映射 832 个账号的 AI 网络攻击行为

Mapping AI-enabled cyber threats: Insights from the LLM ATT&CK Navigator

AI 导读

Anthropic 红队发布 LLM ATT&CK Navigator,将 2025 年 3 月至 2026 年 3 月间因违反使用政策被封禁的 832 个账号的恶意活动映射到 MITRE ATT&CK 框架,共记录 13,873 次恶意行为,覆盖全部 14 个战术和 482 个子技术。研究提出 AI Risk Enablement Score(ARiES)风险评分,从威胁、漏洞利用和影响三个维度给出 0 至 100 分。数据显示,中高风险行为者占比从研究前半年的 33% 升至后半年的 56%,增长约 1.7 倍,且集中在横向移动、凭据转储和 web shell 等后期攻击阶段。研究还指出,技术复杂度、接口选择和所用技术数量对风险的预测力都很弱,真正区分最高风险行为者的是其围绕模型搭建的 agentic 脚手架。

推荐理由

Anthropic 基于一年内封禁的 832 个账号,给出 AI 赋能网络攻击的量化画像与风险评分方法,可供防御方参考。

阅读原文anthropic.com