跳到正文
原文
论文追踪· arXiv:2609.39518· Christian Poelitz; Finale Doshi-Velez; Siân Lindley·本站收录 · 原文发表

研究:视觉语言模型在协作任务中很少主动表达指代不确定性

Referential Uncertainty in Human–AI Collaboration

AI 导读

研究者在人机协作拼图任务中考察指代不确定性,即描述指向哪个候选物体上的不确定,由人类 Helper 指示 AI Worker 放置拼图。单独引出的候选物体信念分布校准更好(ECE 0.15),区分正确与错误放置的能力也更强(AUROC 0.65),而原始动作 token 概率严重过度自信(平均置信度 0.97,ECE 0.44)。在 GPT-4.1、GPT-5、GPT-5.5 三个前沿视觉语言模型上,这种引出的不确定性随指令模糊程度可预测地上升,但不随上下文中存在竞争指代物上升,即使后者会增加错误。模型很少将其外化,仅在 3.5% 至 16.7% 的轮次中请求澄清。在 N=210 的受控人类实验中,只看到 Worker 默认消息的参与者接受了 78% 的错误放置,且无法区分对错(AUC 0.50);精确描述和有针对性的模糊限定可将错误动作接受率降至 36%,同时大体保留对正确动作的接受。

阅读原文arxiv.org