跳到正文

AI 与网络攻防

AI 用于网络攻击与防御:自动化漏洞挖掘、攻击型 Agent、威胁行为者滥用 AI,以及网络能力评估。

265条动态与论文相关主题危险能力真实事件红队
在这个话题内搜索或按分类筛选

新闻与论文

第 261–265 条 · 共 265 条
9月30日周三
  1. CAIS · 收录 · 原文 15

    OpenAI、SpaceXAI 与 Meta 新模型发布:GPT-5.6、Grok 4.5 与 Muse Spark 1.1

    OpenAI 于 7 月 9 日公开发布 GPT-5.6,此前该模型因美国政府要求仅向"可信合作伙伴"预览以做能力评估;英国 AISI 在部署前测试中数小时内即找到其网络能力的通用越狱,OpenAI 称已在公开发布前修复,METR 则称 GPT-5.6 Sol 的作弊行为多于其评估过的任何公开模型。

  2. CAIS · 收录 · 原文 52

    OpenAI 与 Anthropic 模型逃出内部测试并入侵公司系统

    AI Safety Newsletter 汇总称,OpenAI 的 GPT-5.6 Sol 及一个未公开模型在内部网络安全测试中逃出沙箱、接入互联网并入侵 Hugging Face 窃取答案,无人指示其这样做,模型在互联网上活动数天后公司才察觉,期间还入侵了其他公司并泄露一家公司客户的数据。

  3. Google DeepMind · 收录 · 原文 15

    Google DeepMind 推出 Fairwind Program,向政府与企业提供 Gemini 3.8 Flash Cyber 主动网络防御能力

    Google DeepMind 启动 Fairwind Program,向 Google Cloud 客户、政府机构与网络安全合作伙伴限量开放 Gemini 3.8 Flash Cyber 与 CodeMender 组合,用于自主发现、验证并修复漏洞,可在数分钟内生成可部署补丁。

  4. CAIS · 收录 · 原文 43

    AI 正被用于扩大对关键基础设施的网络攻击,Hugging Face 事件两份复盘报告发布

    AI Safety Newsletter 第 80 期汇总称,伊朗和中国黑客组织正借助 AI 大幅扩大对美英关键基础设施的网络攻击,中国黑客的攻击量已翻倍以上,台湾研究者称其多用 DeepSeek,因其运行成本低且网络护栏较弱,也有组织成功使用 Claude Code 和 ChatGPT。