跳到正文

AI 与网络攻防 · News

10月13日 · 周二

AI 与网络攻防 · News

按原发与事件进展排列
10月9日周五
  1. The Decoder、Hitachi Global 等 3 个来源The Decoder 等 3 个来源 · 3篇报道 · 38

    Anthropic 启动网络安全使命计划

    Anthropic 宣布推出 Anthropic Cyber Mission,称这是一项旨在保护关键基础设施和开源软件的新行动。据 The Decoder 报道,该长期项目中的关键基础设施防御计划(CIDP)向电网、水务系统和交通网络的运营方开放 Claude 模型、工程师和威胁分析,CrowdStrike、Palo Alto Networks、Deloitte 和 Rockwell Automation 为创始合作伙伴;另有一款免费的 OSS AI 扫描器将定期检查开源项目,自动标记并解释漏洞。Hitachi 宣布加入该关键基础设施防御计划,称其在能源、交通、工业等关键基础设施领域拥有数字技术与运营经验。

    事件进展
    1. 日立加入Anthropic关键基础设施防御计划

    2. Anthropic 启动网络安全使命计划

10月8日周四
  1. tl;dr sectl;dr sec · 25

    tl;dr sec #349:AI 漏洞利用与沙箱测试

    2026年10月8日的 tl;dr sec #349 汇总多项安全动态:XBOW 提出先让智能体以各角色登录并绘制权限边界,再据此判定 IDOR 结果,以降低误报;PortSwigger 为 Turbo Intruder 加入 HTTP/3 支持,Wi-Fi 下单机可发超过 10 万请求/秒,是同环境下 HTTP/1.1 的三倍以上;Aikido 在 gocommunity-io/dockerd、kreuzwenker/docker 两个 Terraform provider 及两个 Go 模块中发现 Gr 相关漏洞。

  2. Anthropic Research、CyberScoop 等 8 个来源Anthropic Research 等 8 个来源 · 8篇报道 · 56

    Anthropic推出OSS Scanner与关键基础设施防御计划

    Anthropic 启动长期计划 Anthropic Cyber Mission,聚焦关键基础设施与开源软件两大方向。关键基础设施防御计划(CIDP)向电力、水务、交通等运营技术防御方提供前沿 Claude 模型、驻场工程师与威胁研究,合作方包括 CrowdStrike、Dragos、Palo Alto Networks、Rockwell Automation 等公司。同时推出的 OSS Scanner 是面向开源生态的可选加入漏洞扫描服务,由该公司最强模型免费为加入项目定期扫描;报告完全由模型生成、不经人工复核或分诊,因此可能不准确。Anthropic 称过去六个月用最新模型扫描重要软件项目,发现超过 29,000 个候选漏洞,仅人工复核约 6,000 个,应维护者要求已直接发送近 5,000 份未经人工验证的报告。

  3. AWS SecurityAWS Security · 2篇报道 · 45

    AWS 发布 AI 漏洞分诊 steering 文件配置指南

    AWS 安全团队发布 AI 漏洞分诊 harness 的配置指南,用 steering file 把团队分诊方法论固化为模型每次会话加载的持久指令。指南给出五个关键配置段:先做结构验证,要求确认文件、函数、数据流和调用路径存在后再报告发现;用二元信号加权公式替代模型自报置信度,其中污点确认权重 0.30;解析 IaC 并按控制类型施加乘数,攻击阻断控制可叠加且下限为 0.15;接入 CISA KEV、EPSS 和公开 PoC 信号。

10月7日周三
  1. The Hacker NewsThe Hacker News · 14

    智能体渗透测试的能力与局限

    Picus 指出,智能体渗透测试能通过实际执行漏洞利用证明单个暴露点是否可利用,并验证从初始访问到权限提升、横向移动的完整攻击链。但该方法存在速度与覆盖两大局限:25 万端点规模的完整扫描需数周,而 2026 年披露到利用的平均时间已从 2025 年的 21.5 天缩短至 8 小时;受安全与稳定性限制,真实漏洞利用只能覆盖典型企业约 20% 至 30% 的可利用面。

10月6日周二
  1. X @AISecHubX @AISecHub · 34

    VulnHunter 开源 Agentic AI 漏洞扫描器

    一款名为 VulnHunter 的智能体 AI 安全扫描器已在 GitHub 发布。据其页面介绍,该工具以对抗视角搜寻可利用漏洞,通过可执行 PoC 验证漏洞,并以测试优先的方式修复。它是 Capital One VulnHunter 的维护分支,已针对各类智能体框架重新构建。

10月4日周日
  1. MarkTechPostMarkTechPost · 20

    Cantina发布开放权重安全研究模型apex-flash-1

    Cantina Security 与 Yeta Labs 发布开放权重安全研究模型 apex-flash-1,基于 Z.ai 的 GLM-5.3-Flash 用 GRPO 强化学习微调,在 Hugging Face 以 MIT 许可发布。该模型总参数 321.3B,训练数据来自 50 个真实漏洞案例构建的 150 个任务;在 20 个留出漏洞案例的 60 项任务上解出 40 项,pass@1 为 66.7%,单次运行成本约 2.38 美元。

10月1日周四
  1. tl;dr sec、Cryptopolitan 等 3 个来源tl;dr sec 等 3 个来源 · 3篇报道 · 36

    Google PageBreak 代理发现 500+ XSS 漏洞

    Google 产品安全团队开发的 AI 智能体 PageBreak 自 2025 年 11 月起在 Google 一方 Web 应用中找出 500 多个 XSS 漏洞,扫描主要由 Gemini 3.1 Pro 和 3.5 Flash 完成,误报近乎为零。其核心机制是确定性验证:每个漏洞假设都交由验证器向运行环境投递真实载荷,确认 JavaScript 执行、文件写入或外发 DNS 后才判定成立。在数百个基于 Google 高保障 Web 框架的应用中仅发现 2 个漏洞,且均位于未完全加固的内部应用或调试端点。该智能体去年 11 月试点、今年 1 月转为正式产品,目标是自主扩展漏洞发现并减少人工投入。已修复漏洞包括 apis.google.com 的缓存投毒、admin.google.com 的 XSS 以及浏览器扩展中的不安全外部握手。

9月29日周二
  1. Cloudflare · 27

    Cloudflare 用前沿 AI 模型测试自家 WAF:1107 次尝试结果如何

    Cloudflare 用前沿 AI 模型对自家 WAF 做动态红队测试,在授权客户 staging 环境跑 45 个场景、6 类攻击共 1107 次尝试,绝大多数攻击被拦截。测试器以 Python 实现,模型看不到源码和 WAF 规则,仅凭 HTTP 响应迭代变异载荷,未被拦截的请求交由人工复核并用于新增检测规则。测试覆盖 XSS、SQLi、CMDi、SSRF、路径遍历/LFI 和 Log4j,WAF 配置为 Attack Score 30 及以下拦截、启用全部 Managed Ruleset 与 OWASP Core Ruleset Paranoia Level 3。

  2. Help Net Security AIHelp Net Security AI · 50

    GitHub AI 智能体发现 24 个安卓应用漏洞

    GitHub Security Lab 研究员 Kevin Stubbings 在实验室开源的 Taskflow Agent 之上,构建了面向移动应用的 AI 审计工作流 taskflows,并用其发现并报告了 Android 应用中的 20 多个漏洞。

9月24日周四
  1. tl;dr sec · 43

    tl;dr sec 周报:自主 AI 智能体以每目标 25 美元入侵 27 家公司

    安全周报 tl;dr sec 第 347 期汇总了多起 AI 相关安全事件。Gambit Security 的 Eyal Sela 描述,一个以经济动机为主的攻击者使用 Strix、Cairn、Hermes 三个开源 AI 框架,在 2026 年 7 月至 9 月间入侵至少 27 家公司,总成本仅 12000 至 18000 美元,平均每个目标 25 美元;攻击通过 OpenRouter 调用 GLM 5.2、DeepSeek v4 Pro 和 Opus-4.6 等模型,人工输入极少,从两家零售商窃取 60 万张以上信用卡,并在 19 个以上网站注入盗刷脚本。周报还收录了 Wiz 关于 GitHub PAT 泄露多组织攻击活动的六步调查方法,以及 Datadog 的 GitHub 审计日志威胁狩猎指南,后者指出 hashed_token 是追踪特定 token 活动最可靠的字段。

  2. Google · 43

    Google 披露 PageBreak 项目:用确定性验证的 AI Agent 扫描漏洞

    Google 产品安全团队公开了内部 AI Agent 扫描器 PageBreak 的架构与运行结果,该工具用于测试 Google 一方 Web 应用的安全性。PageBreak 于 2025 年 11 月试点、2026 年 1 月转为正式项目,主要基于 Gemini 3.1 Pro 或 Gemini 3.5 Flash 等模型运行。其核心设计是优先采用确定性验证:Agent 提出漏洞假设后,交由非 AI 编写的专用验证器在真实运行环境中执行载荷确认,从而将误报率降至接近零。Google 称已大规模运行 PageBreak,在自家一方 Web 应用中发现超过 500 个 XSS 漏洞。验证器按漏洞类型区分,覆盖 XSS、SQL 注入、路径遍历、远程代码执行和 SSRF 等。

  3. Google Bug Hunters · 36

    Google 披露 PageBreak 扫描器在真实环境中发现的漏洞

    Google 在 Bug Hunters 博客发文,对其 PageBreak 扫描器在真实环境中发现的具体漏洞做技术深入分析。帖子指出内容为技术深潜,聚焦该扫描器实际查出的漏洞案例,未给出具体漏洞数量、受影响产品或厂商处置信息。

9月22日周二
  1. Cisco Talos · 46

    Cisco Talos 发布 CAIRN:面向 AI 集成恶意软件的前沿追踪工具

    Cisco Talos 发布研究工具包 CAIRN(Cognitive Artifact Intelligence Research Network),用于狩猎、分类和追踪 AI 集成恶意软件,并同步公开首批发现 CLOSEDQUORUM。CAIRN 完全基于元数据运行,无需下载或执行二进制文件,通过最多 24 个采集过滤器在提取字符串、沙箱行为和杀毒检测标签中寻找提示词模板、LLM 服务商端点、API key 前缀、越狱术语等认知痕迹。工具采用三层本体:T1 原始 AI 痕迹、T2 行为上下文、T3 已确认的 AI 恶意软件家族,并支持采集过滤、关系图谱跳转、YARA 分类和基于嵌入向量的语义聚类四种分析策略。Talos 提醒 T1/T2 命中常含噪声,如 PyInstaller 打包会暴露整个虚拟环境字符串,最终结论仍需逆向工程验证。

9月20日周日
  1. 先知社区 · 13

    HostTraceAI:让 AI 安全接管主机溯源的权限分级与接入实践

    HostTraceAI 尝试把 AI Agent 引入应急响应中的主机溯源流程,用权限分级与接入机制回答"凭什么让 AI 动生产主机"。该工具面向被植入木马或 WebShell 的服务器排查场景,覆盖进程、服务、启动项、计划任务、网络连接、文件变更和登录活动等取证环节,目标是把原本依赖手工敲命令、截图和翻终端历史的重复流程变得可复现、少遗漏。

9月17日周四
  1. tl;dr sec · 18

    tl;dr sec #346:AI 能否做出新颖安全研究、Anthropic 威胁情报报告、Cloudflare 如何用 AI 执行工程标准

    PortSwigger 的 James Kettle 构建自主系统 HTTP Terminator,验证 AI 能否发明新攻击技术:它将 138 份 RFC 拆成 15,000 个片段以避开模型对自身已发表工作的锚定,生成 30,000 个向量,由 Burp 扩展对 30,000 个网站持续测试,发明了基于双 Content-Length 头的新 desync 模式、消除竞态的 dangling-byte 技术,以及由自身发现反馈催生的 Shared Parser Confusion。Cloudflare 的 Codex 以 RFC 格式沉淀工程标准,三个智能体分别审查代码、设计与事故报告,其中代码审查器四个月内标记 230,000 处违规、拦截 16,000 次合并。

9月10日周四
  1. tl;dr sec · 36

    tl;dr sec 第345期:漏洞传闻即被利用、版本控制 DFIR 与自适应 Agent 蠕虫

    tl;dr sec 第345期汇总了多条 AI 与安全交叉动态。Anil Madhavapeddy 为 OCaml 的 cohttp 6.3.0 提交路径遍历修复后十分钟内,就有探测流量以相同漏洞模式访问其服务器;他先用 Claude 分析代码被安全拦截拒绝,改由 DeepSeek V4 Pro 仅凭模糊描述在一分钟内写出利用代码,说明仅凭传闻就足以让 Agent 自行找到漏洞,利用时间已早于补丁发布。Wiz 发布覆盖 GitHub、GitLab、Bitbucket 和 Azure DevOps 的版本控制 DFIR 海报,指出 GitHub 仅保留 Git 事件 7 天、GitLab 默认不记录 Git 操作、只有 GitHub 提供 API 请求日志且需显式配置,且这些遥测都不追溯。

9月2日周三
  1. Cloud Security Alliance(AI 相关) · 15

    Cloud Security Alliance 提出 AI 威胁准备度四支柱框架

    Cloud Security Alliance 发布了一套面向企业的 AI 威胁准备度框架,由速度与可见性两个维度驱动,围绕消除关键风险、减少暴露并借助 AI 扫描所有暴露面展开四个支柱。该框架指出前沿模型如今能自主发现零日漏洞并生成可用利用代码,从发现到被利用的时间持续缩短,并以 Mythos 扫描后 Firefox 团队单月在 4 月修复的安全缺陷超过此前全年为例说明趋势。其数据显示,30% 的云环境至少有一台高影响力机器运行对外暴露的软件,仅 2% 的组织存在敏感数据的直接暴露,但有 19% 组织的暴露软件位于具备访问内部敏感资产权限的系统上,另有 6% 组织因暴露软件的路径可达管理员权限而使单一漏洞可能带来环境的完整控制权。

  2. NVIDIA 技术博客:可信 AI 与网络安全 · 11

    NVIDIA 用 Nemotron 构建自适应智能体网络安全系统

    NVIDIA 基于 Nemotron 打造自适应智能体网络安全系统,目标是识别现有防线遗漏之处并将缺口转化为改进方向。该系统面向安全运营场景,强调突破既有告警、预设工作流和已知攻击行为的束缚,而非仅将智能体接入传统流程。

9月周二
  1. Decrypt · 42

    Google 披露内部 AI Agent PageBreak,已发现 500 多个 XSS 漏洞

    Google 产品安全团队披露内部 AI Agent PageBreak,用于自动测试自家 Web 应用的安全,已发现 500 多个 XSS 漏洞。该 Agent 基于 Gemini 模型,发现疑似漏洞后会交给专门的验证器,在运行中的应用副本上实际尝试利用,确认可用后才上报,因此误报率接近零。在采用高保障 Web 框架、从结构上消除整类漏洞的应用上,PageBreak 只找到 2 个漏洞。Google 表示 PageBreak 依赖其统一代码库和多年内部扫描基础设施,小型创业公司难以直接复制,下一步将把它与自动修复 Agent CodeMender 连接,让确认的漏洞附带修复方案供工程师审核。