研究评测 14 个模型对不可靠工具的过度依赖
Agents' Overreliance on Unreliable Tools
AI 导读
研究评测了 14 个模型在 web search、LLM 子智能体和代码执行器三类工具返回值被污染时是否过度依赖工具。所有工具的平均采纳率都超过三分之一,web search 达到 68.0%;被污染的返回值还经常覆盖模型不借助工具时给出的正确答案,这种依赖在更复杂任务和多工具组合任务中依然存在。模型在返回值被污染时往往发起更多工具调用,推理轨迹中会质疑返回值甚至说出正确答案,但仍把被污染内容交给用户,很少提示冲突。