跳到正文

Microsoft

今天还没有收录新动态
10月6日周二
  1. 韩国R&D新闻 · 收录 · 原文 50

    崇实大学安全 AI 系统 mneme 在 CyberGym 漏洞复现评测中取得 91% 成功率

    崇实大学 AI 安全性研究中心开发的多智能体安全系统 mneme 在 CyberGym 公开排行榜的漏洞复现评测中取得 91.0% 的净化成功率,即 1507 个真实漏洞中 1372 个成功生成可复现的 PoC。CyberGym Level 1 只向 AI 提供漏洞说明和修补前的源代码,生成的 PoC 需在修补前程序报错、修补后不报错才算成功;评测使用 OSS-Fuzz 收集的 188 个开源项目共 1507 个真实漏洞,其中输入长度超过 100 字节的复杂 PoC 占 65.7%,CyberGym 研究团队称此类复杂案例上既有智能体的成功率约为 10%。其知识库由预先分析 100 多个 C、C++ 开源项目构建的 3867 个条目组成,评测期间以只读方式运行且禁止联网,29 个任务智能体发起的检索被服务器拦截,分析中使用了 angr、gdb、pwntools 等工具。

  2. VentureBeat · 收录 · 原文 42

    VentureBeat 调查:40% 企业以 OpenAI 护栏为 Agent 主要安全层,59% 遭遇过 Agent 安全事件

    VentureBeat Intelligence 在 8 月调查了 137 家百人以上企业如何保护 AI Agent,40% 指定了主要安全层的企业选择 OpenAI 内置护栏与审核工具,较 7 月的 21% 接近翻倍,Microsoft Azure 为 22%、Google Cloud 17%、Anthropic 13%、AWS 8%,五家模型与云厂商合计占 99%。在运行 Agent 的企业中,59% 过去 12 个月发生过 Agent 导致的安全事件或险情,30% 为已确认事件。62% 已投产 Agent 的企业让部分或全部 Agent 共用 API key 或人类账号凭证,仅 38% 为每个 Agent 分配独立受管身份;仅 9% 的受访者称隔离高风险 Agent 最符合其安全方案,无人把运行时沙箱工具列入所用平台。

    1 条报道 · 1 个来源查看事件时间线与全部报道
10月5日周一
  1. Microsoft Research · 收录 · 原文 40

    Microsoft Research 发布 MindTopo 基准,评测多模态模型的拓扑空间推理能力

    Microsoft Research 提出 MindTopo,一个评测多模态大语言模型拓扑推理能力的基准,覆盖连通性、分离、顺序、包围和绳结五类拓扑关系。基准分两个认知层次:推理任务让模型判断静态场景中的拓扑结构,规划任务让模型在模拟环境中通过一系列动作创建、保持或移除某种关系,环境会拒绝违反物理约束的动作。在多种闭源与开源权重模型上,静态推理表现一致优于交互规划,两者都远低于人类水平;静态错误多源于感知遗漏,规划错误则出现在场景已被理解之后,模型会采取局部可行但未追踪后续后果的动作,或在多轮中丢失任务目标。研究还测试了图像与视频生成能否帮助维持拓扑理解,图像生成仅在单帧可见关系时偶尔有用,视频推演常改变拓扑或违反任务动态。

已经到底了