IntentFlux 基准测量 LLM Agent 的意图漂移并给出 StateForge 修复方案
When Users Change Their Minds: Measuring and Repairing Intent Drift in LLM Agents
AI 导读
论文提出意图漂移这一多轮交互失效模式，即用户已撤回或更新的意图仍继续影响最终回答或工具调用。作者构建 IntentFlux 可执行基准，把可验证任务转成带受控意图变更的对话并保留原有评分器，在 627 个案例的校准中，随着对话包含更多被取代和撤回的信息，平均任务得分从 0.476 降至 0.384。在八个模型上，同一最终任务需要从演变对话中恢复时，完全正确率显著低于单轮直接给出任务。作者进一步提出 StateForge，在生成前显式维护当前有效需求，在 General-Test 上把平均任务得分从 0.367 提升到 0.467；即使提供真实最终状态，性能仍未恢复到单轮水平，说明状态估计错误只能解释部分差距。