跳到正文
原文
arXiv· arXiv:2509.02464· Ahmed Ahmed, Kevin Klyman, Yi Zeng, Sanmi Koyejo, Percy Liang·本站收录· 原文发表

SpecEval:评估模型对行为规范的遵循程度

SpecEval: Evaluating Model Adherence to Behavior Specifications

AI 导读

研究者提出 SpecEval 自动审计框架,检验基础模型是否真正遵循其厂商公开的行为规范,在六家厂商的 16 个模型、超过 100 条行为规范上发现系统性不一致,厂商间合规差距最高达 20%。框架通过解析行为规范语句、生成针对性提示并用模型评判遵循情况,核心考察厂商规范、模型输出与以厂商自家模型作评判者之间的三方一致性,被审计厂商包括 OpenAI、Anthropic 和 Google 等。

阅读原文arxiv.org