LLM Judge 验证在稀疏重叠下的问题：从推理到设计
LLM Judge Validation Under Sparse Overlap: From Inference to Design
AI 导读
研究证明标注重叠稀疏性是 LLM-as-a-judge 部署决策错误的首要决定因素：5% 成对重叠时错误决策率达 25%，从十个候选评判者中选出错误最优者的概率达 65%。作者推导出最小重叠公式，显示 ρ ≥ 0.25 足以应对非边界评判者，边界案例仍难以解决；零成本分层分配方案在分层有信息量时可将错误拒绝率减半。研究在 10 个 LLM 评判者、四个评估矩阵上验证，覆盖视觉评估、因果推理与摘要任务。