事件持续更新
Cisco 发布 VLoc Bench 评测 Agent 漏洞定位能力
先了解这件事
AI 综述
Cisco 发布 VLoc Bench,用于评测 Agent 在仓库规模下定位漏洞代码的能力:任务只给 CWE 描述和真实仓库的只读访问权限,不含公告文本、CVE 编号、修复提交或文件提示。该基准覆盖 290 个仓库、六个包生态和 147 个 CWE 类别的 500 个真实漏洞,每个任务包含修复前定位与修复后确认漏洞已消失两个阶段,以区分理解代码、定位漏洞代码和验证修复三种能力。在统一提示词、只读工具和命令预算下评测 27 个语言模型和 Agent。
AI 根据报道生成 · 6 小时前更新
最新进展10月7日 06:00
Cisco 发布 VLoc Bench,评测 Agent 在仓库规模下定位漏洞代码的能力。后续时间线
10月7日
- Cisco精选Cisco 发布 VLoc Bench 与 Safety-VLoc-Bench,评测 Agent 的漏洞定位与攻防不对称
Cisco 发布 VLoc Bench,用于评测 Agent 在仓库规模下定位漏洞代码的能力:任务只给 CWE 描述和真实仓库的只读访问权限,不含公告文本、CVE 编号、修复提交或文件提示。该基准覆盖 290 个仓库、六个包生态和 147 个 CWE 类别的 500 个真实漏洞,每个任务包含修复前定位与修复后确认漏洞已消失两个阶段,以区分理解代码、定位漏洞代码和验证修复三种能力。在统一提示词、只读工具和命令预算下评测 27 个语言模型和 4 个静态分析工具,最强系统仅达到 0.229 File F1,38.4% 的任务中没有任何被评测模型找到正确文件;参数量仅 30 亿的 Antares-3B 以 0.223 排名第二。
相关讨论
关注度走势
每天新增来源
- 10月7日 新增 1 个来源(1 家媒体、0 个账号)