RAIM:用廉价小模型聚合替代前沿模型做幻觉检测
RAIM: Robust Aggregation of Inexpensive Models for Hallucination Detection
AI 导读
RAIM 是一种面向幻觉检测的聚合方案,用 4–9B 开源小模型组成的评审团替代前沿模型做忠实性评判,通过交叉拟合堆叠逻辑回归加可采纳性检验来应对成员间的相关性错误。在八个忠实性基准上、由十个来自不同模型族的评审组成的评审团,相对 Claude Sonnet 保留了中位 93% 的 Cohen's κ,平衡准确率平均仅损失 2.9 个百分点,推理成本为前沿模型的六十四分之一,代价是一次性用 50–100 条标注记录做域内校准。