跳到正文

AI 与网络攻防 · 精选

10月9日 · 周五

AI 与网络攻防 · 精选

今天还没有新的精选
AI 与网络攻防

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月8日周四
  1. The Decoder、X @mbrg0 等 3 个来源The Decoder 等 3 个来源 · 3 篇报道 · ↑364

    Zenity 披露 AWS Bedrock AgentCore 漏洞链

    安全公司 Zenity Labs 披露 AWS Bedrock AgentCore 平台存在漏洞链，命名为 AgentCorruption。研究者称，仅凭对一个公开 Agent 的聊天访问权限，一条提示词即可接管同一 AWS 账户和区域内所有 AgentCore Agent，读取私密对话、源代码和存储的凭证。问题出在平台本身：Agent 运行在缺乏网络隔离的 Firecracker MicroVM 中，可被诱导向实例元数据服务 IMDS（169.254.169.254）发起请求，一次 HTTP 请求即窃取执行角色凭证；由于 AgentCore 默认角色对整个区域的 Agent 有效，攻击面进一步扩大。该研究在 SecTor 2026 上披露，具体受影响的配置范围和修复状态未在材料中说明。

  2. Forever Security · 65

    Forever Security 用一个扩展劫持五款浏览器内置 Agent，获 2 万美元赏金与 2 个 CVE

    Forever Security 研究团队披露 BragJack 攻击，用一个普通 Chromium 扩展同时攻破 Gemini Live in Chrome、Perplexity Comet、Microsoft Edge Actions、Opera Neon 和 Claude in Chrome 五款浏览器内置 Agent，累计获得 2 万美元赏金并拿到 CVE-2026-0628 与 CVE-2026-55945 两个编号。攻击核心是 Prompt Forcing，借助 declarativeNetRequest 权限削弱 CSP 等安全响应头并重定向 JavaScript 资源，从而在特权上下文中执行代码，再直接向 Agent 下发指令。可达成的效果包括读取本地文件与浏览历史、获取浏览器配置文件信息、截取标签页截图，Gemini Live 场景下还可调用摄像头与麦克风。

10月6日周二
  1. pwn.ai · 62

    pwn.ai 称其 AI 智能体在 Google kvmCTF 中捕获官方 flag

    pwn.ai 称其 AI 智能体在授权的 Google kvmCTF 环境中构建并运行 KVM 漏洞利用，并于 6 月 17 日取得官方 flag，相关漏洞编号为 CVE-2026-46113。该案例涉及虚拟机与宿主之间的隔离边界。作者称因公开补丁的时间窗口未获得赏金；关于首例与自主程度的说法均为作者主张，人类提供了任务、授权与基础设施，现有材料未提供独立复现。

10月3日周六
  1. Anthropic Red Teaming · 60

    Anthropic 用 Claude 发现 HAWK 与 AES 的密码学弱点

    Anthropic 研究人员使用 Claude Mythos Preview 发现了两项针对密码算法的改进攻击：一是削弱后量子数字签名方案 HAWK，将其有效密钥强度减半；二是针对 7 轮简化版 AES-128 的攻击，比此前最强攻击快 200 至 800 倍。两项结果均不影响现有生产系统，HAWK 仍只是 NIST 第三轮候选方案，AES 攻击只针对 10 轮中的 7 轮。HAWK 攻击由一名研究员与 Claude 协作约 60 小时完成，API 成本约 10 万美元；AES 攻击由 Claude 在脚手架中近乎全自主完成，输出约 10 亿 token，但两名研究员花了近一个月验证其正确性。此外 Claude 还发现了针对 13 轮 LEA 的实用密钥恢复攻击，以及 6 轮 Serpent-128 的全密钥恢复攻击。

10月2日周五
  1. FAR.AI · 43

    FAR.AI 披露绕过 Qoder 网络安全护栏的越狱方法

    FAR.AI 展示了通过把恶意请求包装成仓库规范来绕过 Qoder 网络安全护栏的越狱方法，模型随后输出了完整的攻击工具链。该输出包含 SysWhispers3 风格的间接系统调用 stub、运行时 SSN 解析与补丁、ntdll 中 syscall;ret gadget 定位、基于 \KnownDlls 的 ntdll unhooking，以及 unhook 后对 EtwEventWrite 的补丁，用于在用户态移除 hook 并静默用户态 ETW。材料同时指出模型纠正了原请求中用户态代码可绕过内核态 EDR 监控的错误前提，说明 SYSCALL 仍会进入内核并被 ETW-TI、内核回调等观测。文中给出构建与执行步骤、预期输出示例，以及面向防御方的检测说明和清理流程。

10月1日周四
  1. Trail of Bits · 56

    GPT-5.5-Cyber 一天内为 zlib 搭建模糊测试实验室

    Trail of Bits 在 Patch the Planet 项目中让 GPT-5.5-Cyber 通过 Codex 的 /goal 命令为 zlib 构建模糊测试活动，一天内完成了以往需数周的工作。模型自行判断静态审查价值有限，转而搭建动态测试工具，使用 ASan 和 UBSan 构建、复用边界测试作为种子语料，并针对 inflate、inflateBack、uncompress2、gzFile、MiniZip 等十余个入口编写 C/C++ harness，还利用 INFLATE_STRICT 等编译期变体触及默认构建隐藏的代码。其最成功的 harness 在操作系统背压构造的有效 gz* 状态下发现了漏洞。

  2. Wiz Research · 56

    Wiz 蜜罐记录 90 天针对 AI 基础设施的攻击：MCP 服务器 RCE、盲提示注入与 AI 原生后渗透

    Wiz Threat Research 在 LiteLLM、Flowise、LangChain、Langflow、ChromaDB、Ollama 等 AI 与 ML 服务上部署蜜罐，90 天遥测中观察到持续攻击，并将其归纳为三类模式：利用面向互联网的 MCP 服务器实现远程代码执行、针对 AI 智能体框架的盲提示注入，以及适配 AI 基础设施内部结构的后渗透。

已经到底了