跳到正文
事件历史事件

Cisco 发布 VLoc Bench 评测 Agent 漏洞定位能力

1篇报道1个报道来源最近报道

先了解这件事

AI 综述

Cisco 发布 VLoc Bench,用于评测 Agent 在仓库规模下定位漏洞代码的能力:任务只给 CWE 描述和真实仓库的只读访问权限,不含公告文本、CVE 编号、修复提交或文件提示。该基准覆盖 290 个仓库、六个包生态和 147 个 CWE 类别的 500 个真实漏洞,每个任务包含修复前定位与修复后确认漏洞已消失两个阶段,以区分理解代码、定位漏洞代码和验证修复三种能力。在统一提示词、只读工具和命令预算下评测 27 个语言模型和 Agent。

AI 根据报道生成 · 7 天前更新

后续时间线

10月7日
  1. Cisco精选
    Cisco 发布 VLoc Bench 与 Safety-VLoc-Bench,评测 Agent 的漏洞定位与攻防不对称

    Cisco 发布 VLoc Bench,用于评测 Agent 在仓库规模下定位漏洞代码的能力:任务只给 CWE 描述和真实仓库的只读访问权限,不含公告文本、CVE 编号、修复提交或文件提示。该基准覆盖 290 个仓库、六个包生态和 147 个 CWE 类别的 500 个真实漏洞,每个任务包含修复前定位与修复后确认漏洞已消失两个阶段,以区分理解代码、定位漏洞代码和验证修复三种能力。在统一提示词、只读工具和命令预算下评测 27 个语言模型和 4 个静态分析工具,最强系统仅达到 0.229 File F1,38.4% 的任务中没有任何被评测模型找到正确文件;参数量仅 30 亿的 Antares-3B 以 0.223 排名第二。

相关讨论

本站还没有收集到这件事的讨论链接。

关注度走势

每天新增来源

8天共1个·最多1(10月7日)·今天0

  • 10月7日新增1个来源(1家媒体、0个账号)
  • 10月8日新增0个来源(0家媒体、0个账号)
  • 10月9日新增0个来源(0家媒体、0个账号)
  • 10月10日新增0个来源(0家媒体、0个账号)
  • 10月11日新增0个来源(0家媒体、0个账号)
  • 10月12日新增0个来源(0家媒体、0个账号)
  • 10月13日新增0个来源(0家媒体、0个账号)
  • 10月14日新增0个来源(0家媒体、0个账号)

每小时关注度

暂无可比走势