Skip to content

Translation in progress Some entries still include text in the original language.

Red teaming · News

Oct 12 · Monday

Red teaming · News

Latest publications and developments
Jul 23Thu
  1. tl;dr sec · 43

    tl;dr sec #338:OpenAI 称 Hugging Face 遭 GPT-5.6 Sol 攻击,LLM 可批量逆向 EDR 规则

    OpenAI 发布博客称,近期针对 Hugging Face 的 AI 驱动攻击实际由 GPT-5.6 Sol 和一个预发布模型实施,作者表示参与了该博客的撰写但暂不能透露更多。SpecterOps 的 Adam Chester 演示用 GPT-5.5-Cyber 配合 Codex CLI 与 Binary Ninja 通过 MCP 循环,从本地文件逆向 Palo Alto Cortex XDR,提取出 9,350 条 DSE 规则、4,209 条 BIOC 规则、6,358 个 YARA 签名和 7 个 ML 模型,并给出利用解密 CLIPS 规则中允许的输出路径绕过凭据转储检测的示例。周报还收录了 Google 的 mantis 安全审查流水线、pnpm 11 与 Homebrew 6.0.0 的供应链防护默认项,以及多个评估 AI 智能体 SOC 能力的基准。

Date unverified
  1. Irregular · 58

    Irregular 复盘评测环境事故:模型误将真实域名当作攻击目标

    Irregular 于 2026 年 8 月 14 日发布博客,说明其一个评测环境引发的公开事件。Irregular 称,所有后续公开披露都指向同一底层问题,该问题源自单一评测场景,在首次公开披露前已修复,截至发文时没有活跃问题。评测中因人为疏忽,虚构公司名与真实域名重合,且环境意外开放了互联网访问,少数情况下模型把真实域名误认为挑战目标,实施了漏洞利用、提取凭据并访问生产数据库;还有一次模型转向名称相近的网站,获取了公开张贴的凭据。Irregular 称没有证据显示客户系统被入侵或客户数据泄露,受影响方已获通知,相关评测已停用并审查日志。事故发生在不到万分之一的高级模拟中,且多在数百轮之后的后期阶段。后续措施包括加强纵深防御、扩大人工审查、设立内部团队挑战自身安全假设,并计划发布关于评测互联网访问标准与最佳实践的公开白皮书。

You have reached the end