跳到正文
原文
arXiv· arXiv:2609.29465· Jiajun Wu·· 8 天前

SWE-Prometheus:衡量真实代码仓库工程治理改进的基准

SWE-Prometheus: Measuring Engineering Governance Improvements in Real-World Repositories

AI 导读

SWE-Prometheus 是面向仓库级工程治理改进的基准,每个任务给出固定快照与开放式目标,要求智能体自行识别风险、排定干预优先级并验证改动,从六个治理维度通过配对证据、干净环境探针、行为门控和两名独立教师评分进行评估。基准包含 60 个仓库,10 个模型在共享的 22 仓库公开子集上平均 NGI 为 0.0568 至 0.5760,观测到的行为破坏率为 0% 至 23%。

阅读原文arxiv.org