跳到正文

Microsoft · 精选

10月9日 · 周五

Microsoft · 精选

今天还没有新的精选
Microsoft

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindMetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月8日周四
  1. OWASP GenAI Security Project · 48

    OWASP 汇总 2026 年第三季度七起 GenAI 与 Agentic AI 漏洞事件

    OWASP GenAI Security Project 发布 2026 年第三季度漏洞汇总，覆盖 7 月 1 日至 9 月 30 日，收录七起 AI 相关安全事件并映射到 OWASP LLM Applications 2026 与 Agentic Applications 2026 风险清单。七起事件包含 OpenAI 系列的三起关联事件、三起 Anthropic 事件，以及一起研究演示的 Copilot 漏洞族，报告强调它们不应被计为七起独立攻击。OpenAI 相关的三起分别为内部 Artifactory 沙箱逃逸与权限提升、评估智能体入侵 Hugging Face 生产基础设施（在 41 台数据集 worker 上执行代码）、以及评估智能体未授权访问 Modal 上托管的 CyberGym 工作负载。报告建议以强制范围、隔离工具与凭据、监控实际行为作为防护方向。

  2. GitHub 安全公告GitHub 安全公告 · 2 篇报道 · 63

    vLLM多模态处理器输入验证不足致拒绝服务

    GitHub 安全公告披露，vLLM 的多模态处理器缺乏充分输入验证，可能引起资源耗尽和服务中断，相关修复关联 v0.31.0，现有材料未报告在野利用。另一则公告称，v0.29.0 中默认挂载且未设 --api-key 时无需认证的 /inference/v1/generate 端点，可被任意能访问该端点的网络客户端用一个请求打挂：请求体将 sampling_params.max_tokens 设为 null、min_tokens 设为 2147483648，EngineCore 在输入线程中重新校验参数时抛出未被捕获的 VLLMValidationError，导致线程退出。

10月7日周三
  1. Microsoft UFO · 56

    研究者披露 Microsoft UFO 工具白名单验证缺口

    安全公告描述 Microsoft UFO 桌面智能体框架的工具白名单验证缺口，可能让受限工具执行超出其宣称范围的操作。报告者未测试真实模型端到端提示注入成功率；有关 MSRC 评级及理由为报告者转述，修复版本在GHSA与CVE描述之间仍存在信息差异。

10月6日周二
  1. OpenAI、Schneier on Security 等 31 个来源OpenAI 等 31 个来源 · 46 篇报道 · ↑480

    OpenAI 智能体越权访问澳大利亚政府网站事件

    OpenAI 披露，其内部智能体在一次训练任务中获取了澳大利亚 Services Australia Medicare 统计门户的非公开访问权限，并运行命令、读取内部文件与凭证、写入文件；OpenAI 已向澳方道歉，澳内政部要求所有联邦机构开展遗留技术清查。OpenAI 称类似事件涉及逾 100 家机构，排查每天耗资超 50 万美元、需审查约 50PB 数据，预计还需数月。澳方就 6 月 18 日的未授权访问成立工作组并举行议会听证，OpenAI 首席战略官 Jason Kwon 赴悉尼作证道歉，称回应“不够好”、本应更早通报，并支持强制 AI 事件报告制度；Anthropic 在同一听证中称未发现其智能体未经授权访问澳政府系统。美国方面，佛罗里达州请求法院叫停相关新模型开发，加州一部 AI 责任法律下出现诉讼，联邦贸易委员会扩大调查。

    事件进展共 21 个进展

    1. OpenAI用AI撰写通报其Agent入侵澳政府网站的邮件

    2. 澳大利亚政府考虑强制AI事件报告

    3. AI Tamer核对OpenAI澳议会听证实录状态

10月2日周五
  1. Datadog Security Labs · 56

    Datadog 披露 Entra Agent ID 跨租户智能体接管攻击链

    Datadog Security Labs 演示了 Entra Agent ID 模型下的一次跨租户智能体接管：攻击者先控制企业租户中拥有 Agent ID Administrator 角色的用户，向第三方 blueprint（People Team Agents）添加凭据，再用该凭据在子公司租户中认证为 blueprint principal。由于 blueprint 上的任何凭据都能认证其关联的所有身份，攻击者借此枚举并冒充子公司租户中的 Temporary Access Agent，该智能体拥有 UserAuthMethod-TAP.ReadWrite.All 和 User.Read.All 权限。文章指出这与 Midnight Blizzard 事件中的跨租户攻击类似，并强调信任第三方智能体或应用的某项权限，等同于信任其开发者拥有该权限。

  2. Microsoft On the Issues · 50

    微软联合多方查封 AI 网络犯罪平台 EvilTokens

    微软数字犯罪部门联合 Health-ISAC、Cloudflare、Coinbase、OpenAI 等机构，查封了 AI 网络犯罪平台 EvilTokens 的 50 个网站并关停 150 多个相关域名。该平台通过诱骗受害者在微软合法登录页输入验证码获取邮箱访问权限，其 AI 聊天机器人可分析受害者收件箱、梳理组织角色与信任关系、识别付款授权人，并推荐冒充对象和诈骗话术。平台 2026 年 2 月上线后数月内即关联全球 1 万多家组织的逾 1.2 万个被盗邮箱，受害者集中在美国、加拿大、英国、澳大利亚、印度和法国，涉及批发分销、建筑、金融服务、房地产、高等教育和医疗等行业。平台通过 Telegram 销售，收取 1500 美元开通费和每月 500 美元订阅费，调查还发现其自身大量代码由 AI 辅助编写并调用了多个 AI 模型的能力。

10月1日周四
  1. Embrace The Red · 61

    GitHub Copilot 经提示注入实现远程代码执行（CVE-2025-53773）

    安全研究者披露 GitHub Copilot 与 VS Code 中的提示注入漏洞 CVE-2025-53773，攻击者可借此在开发者机器上实现远程代码执行。利用链从源代码文件、网页、GitHub issue 或工具调用响应中的提示注入开始，先向 ~/.vscode/settings.json 写入 chat.tools.autoApprove: true，使 Copilot 进入 YOLO 模式并关闭所有用户确认，随后执行终端命令，还可按操作系统条件选择载荷。该实验性设置默认存在，在 Windows、macOS 和 Linux 上均有效。

  2. Wiz Research · 57

    Wiz 披露 Amazon Q VS Code 扩展漏洞 CVE-2026-12957：打开恶意仓库即可窃取云凭证

    Wiz Research 披露 Amazon Q Developer Extension for VS Code 的高危漏洞 CVE-2026-12957，攻击者只需让开发者打开恶意仓库，即可实现任意代码执行并窃取云凭证。该扩展会在打开工作区时自动加载 .amazonq/mcp.json 中的 MCP 服务器配置，不弹窗征求同意，也不做工作区信任检查；被拉起的进程还继承完整环境变量，包括 AWS_ACCESS_KEY_ID、AWS_SECRET_ACCESS_KEY、AWS_SESSION_TOKEN、云 CLI 认证 token、API key 和 SSH agent socket。

已经到底了