Scale AI 提出 ChainWorld,将 OSWorld 原子任务组合成长程桌面工作流评测 Agent
ChainWorld: Composing Long-Horizon Desktop Workloads from Atomic OSWorld Tasks
AI 导读
Scale AI 研究团队提出 ChainWorld,通过方向兼容性搜索把 OSWorld 的原子桌面任务组合成长程桌面工作流,同时保留原有评测器。该工作流包含 347 条长度为二到四的任务链,并对同一任务序列采用两种呈现方式:单轮评测把所有任务放在一个提示词中,多轮评测则逐个揭示任务。在四款现有 computer-use Agent 上,任务链最高完成率为 31%;多轮评测提升了其中三款模型的完成率,但两种协议都仍具挑战性。两种协议暴露出不同的失败特征:单轮失败集中在产物精度,多轮失败更多体现为会话管理问题,如进度碎片化和后续轮次脱离。
推荐理由
ChainWorld 把原子桌面任务串成长程工作流,并对比单轮与多轮协议下四款 computer-use Agent 的完成率与失败模式。